1回答
自动舍入SQL %d
、、、、
我有一个关于mySQL的数据库，里面有课程和价格(十进制10.0)。问题是当我添加一个价格，例如12.5，sql转换为13。为什么会发生这种情况？
浏览 19提问于2020-07-29得票数 0
1回答
在Oracle数据库中，这样的字段如下：
example number(6,4) not null;
指示我为这一列保留了6位数字，从点到右使用了4位，向左用了2位。
这在MySQL中是一样的吗？
谢谢！我知道这是基本的，但我有时间研究数据库，而且总是有这个问题.
浏览 0提问于2019-01-10得票数 0
1回答
数据库中的浮点值转换
、、、
在我的数据库中，一些字段(金额，余额)被分配为浮点值，但现在我有一个问题，.if是1.56，它将需要1.6，然后我使用.if(数量，2)修改表，它仍然显示相同的问题。如果有人知道，请帮帮我。
浏览 0提问于2013-04-05得票数 0
回答已采纳
1回答
我需要将任何浮点数转换成5位有效的数字格式。它意味着五个第一个非零数字(最后一个数字没有舍入)。
示例
Float("%.#{5}g" % 0.007425742694) => 0.0074257
Float("%.#{5}g" % 3852.574257425742694) => 3852.6
这个方法的问题是3852.574257425742694四舍五入到3852.6，我需要3852.5。
浏览 2提问于2017-08-22得票数 3
回答已采纳
1回答
如果我在Matlab中设置了一个变量，比如var1 = 2.111，那么在运行脚本之后，Matlab返回var1 = 2.1110。我想要Matlab返回原来的数字，没有尾随零。任何人都知道怎么做。提前谢谢。
浏览 9提问于2014-06-28得票数 0
我有一个双精度值(9999999999999.99)，并尝试将其存储到elastic search文档中(输入double并尝试scaled_float )。但是，在Elasticsearch文档中，相同的值显示为9.99999999999999E12。有人能教我解决这个问题吗？
浏览 19提问于2021-11-05得票数 0
1回答
C:四舍五入浮动
、、
你能解释一下这个密码吗？
printf("Value1: %0.1f \n", (float)124/100); // = 1.2
printf("Value1: %0.1f \n", (float)125/100); // = 1.2
printf("Value1: %0.1f \n", (float)126/100); // = 1.3
printf("\n");
printf("Value2: %0.1f \n", (float)134/100); // = 1.3
printf(&#
浏览 7提问于2022-04-22得票数 4
我正在Eclipse中开发一个Android应用程序，其中Android-2.1是“最低要求”。
该应用程序在默认语言(英语)下运行良好。我决定添加多本地化，问题就从这里开始。
我已经创建了与英语strings.xml完全一样的值(复制和粘贴)，然后编辑了新的值，用新的语言句子替换了英语句子，将其放在各自的值文件夹中(例如。对于Deutsch，values-de或values-de-DE (两者都尝试过)。
我用过多种语言(葡萄牙语、德语、法语、简体中文)。
应用程序本身会在按下按钮后将几个文本视图更改为一些数字值。
在英语、葡萄牙语和简体中文中，它的工作方式很有魅力。在德语和法语中，onCl
浏览 2提问于2011-10-15得票数 2
回答已采纳
1回答
我的代码是
uint num = uint.Parse(hexString, System.Globalization.NumberStyles.AllowHexSpecifier);
byte[] floatVals = BitConverter.GetBytes(num);
BitConverter.ToSingle(floatVals, 0).Dump();
结果: 681311,9
我试过另一种代码。但结果是一样的。我能为这个问题做些什么呢？
浏览 0提问于2013-11-07得票数 1
我必须像下面这样存储正的十进制数字: 0.00005438543978579432
存储此类信息的最佳MySQL数据类型是什么？
我想使用DECIMAL(1，20)，但是第一个参数必须是第二个参数的>=。在我的例子中，正数字将始终为0，因此不会出现需要在".“前存储20位数字的情况，因此拥有一个数据类型为DECIMAL(20,20)的列似乎是一种浪费。
浏览 2提问于2012-08-31得票数 2
回答已采纳
1回答
寻找wpa2密钥长度
、、、
能否通过成功的握手确定WPA密钥长度？
下面是屏幕截图，显示了Wireshark中显示的感兴趣的数据包捕获会话：
📷
我的问题来自"WPA键长“这个小短语。这句话是什么意思？
浏览 0提问于2018-07-12得票数 0
我试图在SQL命令行中运行这个程序--这是我的程序：
set verify off;
set serveroutput on;
prompt
prompt
prompt ========================================
prompt E O N MULTIPLANETARY SYSTEM
prompt ========================================
prompt
accept inputstarname prompt "Enter the name of the star: "
浏览 8提问于2017-10-16得票数 2
回答已采纳
2回答
在Python中使用运算符
、、、、
短版本:当我尝试通过ODBC使用Access的DatePart函数时，它无法被解析。
较长版本：
我有一个Microsoft查询，它返回带有时间戳和分数的行。我想把它按日排序，然后再按分数排序--实际上是一张当天的高分表。
由于缺少一个更好的函数，我使用DatePart函数从时间戳中提取每年、每个月和每一天的时间，然后用ORDER BY对它们进行评分。
在Microsoft中，查询工作得很好。
但是，当我使用pyodbc访问同一个查询时，ODBC驱动程序会被DatePart函数所迷惑，并认为它是缺少的参数的名称。
令我惊讶的是，即使我隐藏了DatePart函数，通过创建一个新的HighScor
浏览 3提问于2010-10-18得票数 1
回答已采纳
cout<<5*1.0<<endl;
cout<<(float)5<<endl;
在这两种情况下，我得到的答案都是5，而不是5.0。请帮帮我。
浏览 3提问于2015-06-24得票数 4
每次我使用Math.round(4.45678765e-6 * 10000)/10000时，它会给我一个0值，但是如果我去掉e-6，它会给出正确的答案4.4567我应该怎么做？这是我的代码。这个值的幂是10，类似于4.45678765x10^-6。
<html>
<script type="text/javascript">
var x = Math.floor (4.45678765 * 10000)/10000;
document.write (x);
</script>
</ht
浏览 3提问于2011-09-06得票数 1
回答已采纳
1回答
我比较了两个不同的公式来计算R上的百分比，尽管它们是等价的，并且应该产生完全相同的值(如果我的数学没有严重错误的话)，它们似乎没有得到确切的结果。
让我举一个例子：
set.seed(123)
a<-rnorm(100)
perc_1<-(a/sum(a))*100
perc_2<-(a*100)/sum(a)
现在，根据用于检查它们是否相等的函数有不同之处：all.equal(perc_1,perc_2)是TRUE，但是all(perc_1==perc_2)是FALSE。但是，我可以理解它们产生不同的结果，因为后者测试精确的等式，而前者测试接近于精确的等式。
如果我对差
浏览 3提问于2022-10-14得票数 1
回答已采纳
我正在做一个python项目，遇到了一个问题。
我有一个for循环，它生成一个包含数字的列表。问题是当我打印出列表以检查数字是否正确时。
一些更简单的计算是: 2.6 *3和1.3 *9
如果你用计算器检查，你应该得到7.8和11.7，但我得到的是7.800000000000001和11.700000000000001
这不是一个大问题，但我不喜欢它看起来的样子。(我知道第一世界的问题)
有没有办法解决这个问题？
浏览 0提问于2014-06-23得票数 0
5回答
我在MySQL中多次遇到这个十进制问题！
当我把这种类型：DECIMAL(10,8)
允许的最大值是：99.99999999！
它应该是：9999999999.99999999否？
我想要一个小数点的最大值，在点(.)之后有8位数字。
浏览 0提问于2016-04-29得票数 1
回答已采纳
我希望能够找到一种可靠的方法来计算传递给Erlang中函数的浮点小数点之后的有效位数。假设所需函数的名称是counter，它的行为应该如下所示：
counter(3.14) => 2
counter(3.00001) => 5
counter(3.10000) => 1
谢谢各位。
更新:由于浮点数的表示性质，这个问题很难解决。
浏览 3提问于2013-10-09得票数 1
我正在尝试将数字格式化为python中的字符串。我希望的结果是将0.1423转换为000.14。我试过了
num = 0.1423
print '%0.2f' %num
但这只会导致0.14。我似乎没办法得到领先的零。
干杯，詹姆斯
浏览 6提问于2014-10-01得票数 1
回答已采纳
2回答
表A中列T的值
9.2135
13.0000
如果我使用函数round(A,3)，结果是：
9.214
13.000
如何得到这个：
9.214
13
浏览 2提问于2014-10-24得票数 0
回答已采纳
1回答
密码硬币地址生成
、、
最近一直在研究密码货币，主要是比特币和Dogecoin。我将这个用于我的项目。我已经让比特币完美地运作了，而且由于比特币的创业板没有对Dogecoin的本地支持，我不得不自己实现它。
还注意到，另一个githubber试图实现支持，但到目前为止还没有正确生成地址。
问题似乎就在这条线上。(对应于加密地址的格式)
:address_version => "30"
:address_version = PUBKEY_ADDRESS in base58.h
PUBKEY_ADRESS包含值30。
指定这个特定的数字将给出以字母'L‘(litecoin addres
浏览 3提问于2014-01-20得票数 1
回答已采纳
1回答
我正在为十进制数(4,2)在文本框上添加一个验证。我尝试了下面的代码，它在小数点之后工作(这意味着它限制用户在小数点之后输入2位以上)，但它不限制用户在小数点之前输入超过4位数字。
ng-pattern-restrict="^[0-9]{0,4}+(.[0-9]{0,2})?$"
有效输入: 10.20
有效输入: 1234.23
无效输入: 123456.23
无效输入: 1234.23456
浏览 1提问于2019-05-26得票数 1
回答已采纳
2回答
在我的一个Symfony应用程序中，我遇到了ODM理论的奇怪行为。我要做的只是简单地将十进制类型的数据保存到Informix数据库中。每当我尝试这样做时，小数点分隔符后面的所有内容都会被裁剪。
我尝试了几种分配数据的方法，例如：
$position->setFrpProz(1.2345)；
$1.2345>setFrpProz(“1.2345”)；
->setFrpProz(“1,2345”)；
数据库中的结果总是: 1.0000。
这是实体的yml：
frpProz:
type: decimal
nullable: tru
浏览 0提问于2018-09-12得票数 1
1回答
在过去的几个小时里，这件小事一直让我抓狂。
这是我的密码。当我使用int()对一些数字进行舍入时，我注意到了这个问题。您可以看到，我正在并排打印浮点数和整数答案，以便进行比较。
class Payment:
def __init__(self):
self.coins = [0.25, 0.5, 1, 3, 15, 75]
def get_change(self, price, payment):
change = (payment - price) * 100.0
self.calculate_change(change)
def calculate_change
浏览 2提问于2016-01-11得票数 0
我想使用SQL来做一些事情，但我不知道是否可以这样做，也不知道如何做。我正在使用sum()运行一个查询，它返回一个类似于'145950.00‘的值。但是我想将这个值返回为'145.950,00‘。是否有一种使用SQL的方法，或者我需要在代码端这样做呢？
浏览 6提问于2021-01-27得票数 0
回答已采纳
3回答
解析一个非常大的双精度值将返回错误的值。
例如
Double.Parse("987654321098765432109876543210987.99")
返回错误的9.8765432109876547E+32。如何处理这个问题？
我想在我的网页中用逗号分隔显示上面的值。请帮帮忙。
浏览 4提问于2013-03-20得票数 1
回答已采纳
以下代码：
__m128 var1;
float *a = (float*)malloc(50*sizeof(float));
float *ptr = a;
//Initialise a with some values
for(int i = 0; i < 50; i++)
*(a+i) = i;
//print those values
for(int i = 0; i < 50; i+=4,ptr+=4)
{
var1 = _mm_loadu_ps(ptr);
cout<<(*ptr)<<" "<
浏览 1提问于2017-12-21得票数 0
回答已采纳
下面是代码：
double x = -1.0;
double y = 1.0;
final radians = angle * e / 180.0;
y = tan(radians) * x;
return Alignment(x, y);
然后当我打印出来：
颤振:弧度：-0.09060951997193932
颤振: y: 0.09085830765468121
颤振: x：-1.0
颤振:对准(-1.0，0.1)
你可以看到y值0.090858..。在对齐对象中被舍入到0.1，这使我失去了我的应用程序所需的精度。
如何确保对齐对象不舍入我的号码？我只想让y值保持在0.090858
浏览 2提问于2020-04-30得票数 2
回答已采纳
我将进程时间作为浮点数(4，4)存储在MySQL数据库中。
$start_time = microtime( TRUE );
// things happen in my script
$end_time = microtime( TRUE );
$process_time = $end_time - $start_time;
// insert $process time into mysql table
当输出到命令行时，$process_time总是正确显示，但是如果它的值大于1，它将作为.9999存储到mysql中。
怎么回事？
浏览 2提问于2011-11-11得票数 7
回答已采纳
1回答
我使用的是一个v simple数据库，我有3列A(bigINT 20)，B(bigInt 20)和c(DECIMAL(5,4))，当我执行以下查询时，我会得到下面提到的结果：
REPLACE INTO `my_table` SET `A` = 8,`B` = 44,`C` = 14;
我在mysql a =8，b= 44和c中得到这些值为9.9999！？
关于为什么会发生这种情况，以及我可以做些什么来解决这个问题，有什么想法吗？
浏览 0提问于2012-08-20得票数 1
回答已采纳
1回答
我有一个看似奇怪的快速问题，但我还没有找到答案。
我正在将一些用于数学操作的Java代码转换为C#，遇到了一个我不知道如何解决的情况。事实上，我找到了记号
1.e-18
现在，我知道1.是在Java中表示双精度浮点数的文字，在C#中表示为1d，但是在这种情况下，e代表什么呢？
谢谢你的支持！
编辑
我注意到这是1.e-18我提到的价值
浏览 1提问于2014-10-02得票数 0
回答已采纳
在MS SQL中获得错误Arithmetic overflow error converting numeric to data type numeric.。下面是表格： CREATE TABLE [Percentages]
(
[enabled] bit,
[name] nvarchar(150),
[percent] decimal(5,5)
) 下面是我想要插入的内容： INSERT INTO [Percentages] ([enabled], [name], [percent])
VALUES (1,'Test',2.0) 如果十进制数的限制是
浏览 46提问于2019-03-12得票数 4
回答已采纳
我刚刚编制了一个程序来计算给定数量和价格的一个或多个项目的总成本。我所关心的问题之一是在“项目成本”字段中，它根本不接受小数。我也希望这两个领域都不接受信件。我已经看到了一些关于TryParse的东西，但是我不知道如何使用它，以及它是如何工作的。任何帮助都是非常感谢的。这是我的代码：
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
namespace QuantityPrice
{
class Program
{
static void
浏览 2提问于2015-11-03得票数 0
回答已采纳
1回答
我需要用设定的精度(浮点后最多50个符号)来计算大数的平方根(最多10^100)。为了这个目标，我决定使用。但是当我在Delphi7上实现它时，我遇到了很多麻烦，并且在我的代码中感到困惑。你能展示一下你将如何执行这项任务吗？谢谢，这是我的代码
program sqrtCalc;
{$APPTYPE CONSOLE}
{$Q+} {$R+}
uses
SysUtils,math;
const
signCount=50;
var
inputString:String;
root:String;
intString,realString:String;
intAr
浏览 0提问于2012-12-06得票数 0
使用Server 2005
为什么会失败？
select convert(decimal(10,8),111.1)
这工作还行
select convert(decimal(10,8),11.1)
我该怎么解决呢？
在我真正的查询中，我有这个值。
转换(十进制(10，8)，111.175933837891)
但是我检查了问题是3个整数和N个小数，为什么我有decimal(10,8)这个失败呢？
错误是
Msg 8115，级别16，状态8，第1行算术溢出错误，将数字转换为数据类型数字。
浏览 2提问于2015-01-12得票数 0
回答已采纳
我在MATLAB中存储变量值，并将其中一个变量值作为文件名的一部分。例如"Error=1e-003.mat"，但是当我使用num2str命令将数字转换为字符串时，不同版本的MATLAB会给我不同的格式。数字1e-3，MATLAB2011给我1e-003，MATLAB2012给我1e-03。
当我试图加载一批混合了这两种格式的文件时，这就遇到了麻烦。有没有人知道如何为指数添加零或删除零，以使名称一致？或任何其他方法来解决这个问题？
浏览 1提问于2012-10-04得票数 4
回答已采纳
我正在开发一个运行在iOS和安卓平台上的应用程序。我对JAVA完全陌生。
在这个应用程序中，我需要把32字节的数据作为键从一个平台发送到另一个平台。
该密钥用于对实际数据进行加密/解密。
我正在加密这个32字节的密钥并把它发送到另一边。
当我在加密前打印这个密钥(NSData)时，
<71c76511 dc0dcb9d c8d3c7b3 4e54b8fe 40fb006f 20f21457 5fbec70d f18c7d52>
但是当我打印相同的密钥(字节数组)，解密后，在Android端，我得到
0 = 113
1 = -57
2 = 101
3 = 17
浏览 0提问于2016-02-26得票数 1
回答已采纳
1回答
我想保存我的mysql数据库中介于1-4.9之间的样式评级，请使用什么数据类型？当我将它保存为小数(11，0)时，我一直得到这个错误。
ErrorException in helpers.php第747行:方法App\Wasamar\Rating::__toString()必须返回字符串值
我的代码
$allInputs = Input::all();
$catalogueStyleId = Input::get('catalogueStyleId');
$userId = Crypt::decrypt( Input::get('user') )
浏览 2提问于2016-08-10得票数 1
我们注意到这在javascript和VB.net 2.0中都会发生。所以基本上在服务器端和客户端代码中都是如此。
基本上，如果你运行这个等式975328 - 153279.43，你会得到下面的答案822048.57000000007。
但是，如果您运行975328 - 153279.4、975328 - 153279.433或975328 - 153279.5，则会正确返回所有内容。
有什么想法可以解释为什么系统计算975328 - 153279.43的结果是11位小数？更不用说将7加到小数点后第11位，从而使等式的答案不正确。
当然，我知道我可以裁剪，将答案设置为接近小数位，等等，但我们更感
浏览 0提问于2010-11-18得票数 1
1回答
我正在用Python测试串行通信，所以我需要将十六进制字符串转换成字节数组。但是现在我遇到了用十六进制表示法表示负值的问题。例如，假设我希望将十六进制16 (小数点100)转换为字节数组；我将使用：
myvalue = bytearray.fromhex("16")
但如果我试着转换-100
myvalue = bytearray.fromhex("-16")
我得到一个ValueError:非十六进制数，在0位置的fromhex() arg
具体来说，我必须使用串行API通过usb控制电机的旋转。根据文档，我可以使用2字节有符号值在-32768到32767之间
浏览 2提问于2017-08-10得票数 0
1回答
在IEEE Std 754-2008 (浮点算法的标准)中，我很难理解某些术语的含义。他们的一些定义似乎有点循环，所以我只是想澄清一下。
第2.1节列出了一些基本定义。我感兴趣的是：
2.1.26浮点表示:浮点格式的未编码成员，表示有限的数字、有符号的无穷大、安静的NaN或信号南.有限数的表示有三个分量:符号、指数和意义，它的数值是其意义的符号乘积，基数上升到指数的幂。
2.1.27格式:一组数字值和符号的表示，也许伴随着编码。
在第3.1节中，我们有以下内容：
格式的特点是它们的基数、精度和指数范围，每种格式都可以表示一组独特的浮点数据(参见3.3)。
我搞不懂“浮点格式”是什么意思。它仅仅
浏览 3提问于2016-06-26得票数 1
2回答
为什么输出用科学符号表示？
、、、、
为什么以下代码的输出是用科学符号表示的？
BigDecimal val = new BigDecimal("0000.000000111");
System.out.println(val);
输出：1.11e-8
但是这段代码的输出是十进制格式的。
BigDecimal val = new BigDecimal("0000.000011111");
System.out.println(val);
输出：0.000011111
是否有办法为第一个字符串获得适当的十进制值(如第二个输出)？
浏览 7提问于2015-05-20得票数 3
回答已采纳
2回答
在下面的示例中，输出为3.1，因此它从第一个值开始。
double y = 3.14784;
cout << setprecision(2) << y;
在下面的示例中，输出精度以十进制值开始。
int x = 2;
double y = 3.0;
cout << setprecision(2) << x/y;
然而，在下面的代码行中--与上面声明的x和y相同--我们得到的精度一点也不显示。(下面打印6.00的唯一方法是如果我们使用固定的)。
cout << setprecision(2) << x * y; // sho
浏览 11提问于2014-09-16得票数 0
回答已采纳
2回答
字段填充字节返回意外结果
、、、
根据我的上一个问题：，我一直在尝试改变字段打包字节的一些位的值。
然而，基于这些值，我得到了意想不到的结果。最上面的代码示例给出了0x91的预期输出，但是如果我将colorResolution和sizeOfGlobalColorTable变量更改为：010，则会得到0x80的意外输出，这不是应该是什么的二进制表示形式:基于的10100010。我希望底层代码示例的输出为：0xA2。我遗漏了什么或者不理解什么？
此代码正确地记录：0x91
uint8_t screenDescriptorPackedFieldByte = 0;
uint8_t globalColorTableFlag = 1;
浏览 1提问于2015-04-24得票数 1
回答已采纳
1回答
%7.4格式
、、
我正致力于将SAS代码翻译成R，而且由于我是SAS的新手，我在理解SAS中的数据格式时遇到了一些困难。而且，我无法访问SAS，因此无法对示例数据进行尝试。
我的代码片段说-
Data A;
Set A;
format Sales_change percent7.4 sales_units comma10.3;
run;
我相信逗号10.3使值“数字”类似于excel中的数字格式。即1000000变成1,000,000。但是百分比7.4格式是做什么的呢？0.2364212 %是23.6421%吗？如果是这样的话，我一直在使用R-
A$Sales_change <- percent(
浏览 4提问于2014-03-31得票数 0
回答已采纳
我可以这样做，打印小数点前至少三位数字。
print("{:03d}".format(1))
打印小数点后的三位数
print("{:0.3f}".format(1.5))
我应该怎么做才能同时启用这两种功能？
就像这样
001.235
123.345
089.230
124.400
浏览 10提问于2020-05-14得票数 0
回答已采纳
这是节目。它的意思是根据工作时间、小时费率、预扣缴税款等来计算员工的净工资。它计算正确，但双点精度格式是最后一个小数点，失去了计算的准确性。
样本输入：
姓名:史密斯
本周工作时间: 10小时
时薪: 6.75
联邦预扣税: 20%
国家税收: 9%
输出：
摘要
员工:史密斯
薪金毛额: 67.50
联邦扣缴额: 13.50
国家扣留: 6.08
扣除总额: 19.58
薪酬净额: 47.93
import java.util.*;
public class Payroll
{
static Scanner key = new Scanner(System.in);
publ
浏览 3提问于2016-08-21得票数 0
回答已采纳
2回答
我在学习过程中遇到了一些我不懂的语法。
puts "He is %d (%3.2f in floating point terms) pounds heavy." % [weight, weight]
我对此有一点不理解，那就是3.2的目的。谢谢你看一看！
顺便说一句，weight变量最初是以磅来定义的。
浏览 2提问于2013-09-30得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
