为什么双精度字段的Sum有两个以上的小数位

文章/答案/技术大牛

发布

1回答

elasticsearch

金额字段被定义为双精度型。下面是映射"authamount"：{ "type"："double“}，等等...在执行随机数的java代码中，我指定了两个小数位，数据在elasticsearch中看起来没问题。}, "aggs" : { "auth_amount_stats" : { "stats" : { "field" : "autham

浏览 17提问于2018-07-24得票数 2

回答已采纳

1回答

检查不为0的小数位

mysql、rounding、number-formatting

目前，我的数据库中有一个(16，10)双精度型的字段。我需要将其更改为( 16，4) double。唯一的问题是我有很多记录，我需要检查其中一些记录是否使用了超过4位的小数位。问题是，通过将字段更改为(16,4)，我会得到右侧的0，例如14,5500。有没有办法，使用Mysql，我可以检查双精度数是否使用了4位以上的非0<em

浏览 0提问于2016-04-26得票数 0

1回答

配置单元表查询为sum函数提供了错误的结果

amazon-web-services、apache-spark、hive、hdfs

有一个包含如下数据的hive表。总和没有返回为0的预期输出。select id, sum(amount) as sum from table1 group by id; 1 -9.026113190202523E-14ID的类型为BIGINT。金额类型:双精度，列大小: 15，小数位数: 15 即使这是由于amoun

浏览 4提问于2017-10-31得票数 1

2回答

如何格式化网格视图的模板字段中的双精度值

asp.net

在web应用程序中，我有一个带有模板字段的网格视图。我通过计算两个双精度值将数据绑定到模板字段。但是当页面加载时，templatefield会显示一个小数位数超过15位的值。我想将模板字段格式化为两个小数位。有什么建议吗？

浏览 2提问于2012-05-24得票数 3

1回答

使用双精度归一化

java、double、rounding

我有一组小数位数不同的双精度数。我需要获取这些值的SUM()，然后将它们全部标准化，使它们SUM()为1。此外，我还要求在最终结果中将小数位数限制为4。BigDecimal(value); return bd.doubleValue();这里的缺点是，在舍入之后，我仍然不能保证所有双

浏览 0提问于2016-06-11得票数 0

6回答

奇怪的Java行为:为什么添加恰好有两个小数位的双精度型结果是两个小数点以上的双精度型？

java

如果我有一个双精度数组，每个双精度数恰好有两个小数位，通过循环将它们加起来，并打印出总数，结果是一个有两个以上小数位的数字。这很奇怪，因为从理论上讲，将两个分别有2位和2位小数点的数字相加，永远不会产生一个非零位数超过百分位的数字。System.out.println("total: " + total +

浏览 1提问于2012-03-28得票数 18

回答已采纳

1回答

在java中在基数(带小数位)之间进行转换

java、numbers、decimal、decimal-point

我需要有java代码，在不同的基地之间转换，同时保留小数位。我不需要帮助设置它，因为我需要弄清楚如何在保留小数位的同时转换基数，以提高

浏览 1提问于2013-12-23得票数 0

1回答

LReal与真实数据类型

plc

在可编程逻辑控制器结构文本中，LReal和Real数据类型的主要区别是什么？当使用PLC从基于C的语言转换为结构化文本时，当替换双精度或浮点数时，您将使用哪一个

浏览 44提问于2016-02-06得票数 1

回答已采纳

2回答

向量递归均值

c++、vector

我写了这个程序，它使用递归函数计算向量中元素的和和平均值。用户可以输入任意数量的数字，然后在输入完成时按下"0“。我忽略了最后一个元素，即"0”。但是，sum函数还是有问题，因为它忽略了向量中的第一个元素，因此平均值也是错误的。} while (n); cout << "nr_elem="<< nr_elem; cout << "\n

浏览 1提问于2014-03-16得票数 1

3回答

浮点比较

ios、objective-c

但我正在运行iOS 6.1，下面的代码行返回False：然而，下面返回的是True：为什么？

浏览 0提问于2013-04-03得票数 4

回答已采纳

2回答

为std::ostream精度设置最小小数位数

c++、decimal、precision、ostream

是否有办法设置std::ostream将输出的“最小”小数位数？例如，假设我有两个未知的双变量，我想要打印(为了说明而在这里添加的值)：double b = 0.123456789;>>

浏览 2提问于2010-03-22得票数 17

回答已采纳

3回答

pow()行为与浮动和双重不同

ios、swift、floating-point、double、pow

我正面临着pow()的一个奇怪的问题。为什么会有人能解释呢？提前谢谢。

浏览 1提问于2018-03-16得票数 0

回答已采纳

2回答

比较BigDecimal值和双精度值等于两个小数位

java、double、bigdecimal

我正在使用一个返回双精度值的API。我需要将该值与BigDecimal值进行比较，以便与两个小数位相等。我是否应该将BigDecimal转换为双精度，然后进行比较或者，这种方法有问题吗？

浏览 29提问于2017-07-13得票数 4

回答已采纳

1回答

使用其精度打印双精度

c++、double、precision

我有一个第三方的图书馆，可以从实验室的天平上读取数值。这个库接口了许多比例模型，每个模型都有自己的精度。在我的C++应用程序(使用该库)中，我需要做的是从刻度(双倍格式)中读取权重值，并将其打印出来，同时考虑刻度精度(因此，为用户提供读取该值的刻度精度信息)。因此，连接具有2个小数精度的小数位数时，输出应为例如:23.45g；连接具有4个小数精度

浏览 1提问于2017-03-15得票数 0

7回答

关于浮点计算的准确性/精度，如果有的话，可以提出什么主张？

c++、floating-point、ieee-754

我在做一个做浮点计算的应用程序。我们在英特尔的VC++上使用双精度浮点值的x86 .我们声称我们的计算精确到n位小数位数(现在是7位，但试图声称15位数)。我知道影响整体精度的因素很多，如FPU控制状态、编译器/优化器、浮点模型和操作本身的总体顺序(即算法本身)，但考虑到FP计算中固有的不确定性(例如，0.1无法表示)，对所有计算都要求任何特定精度似乎是无效的我的

浏览 9提问于2010-02-15得票数 5

回答已采纳

2回答

为什么我需要17位有效数字(而不是16位)来表示双精度？

c、floating-point、precision、ieee-754、floating-accuracy

谁能给我一个浮点数(双精度)的例子，它需要16个以上的有效小数位来表示它？有人能澄清这一点吗？

浏览 1提问于2011-05-25得票数 16

回答已采纳

3回答

如何将double的精度限制到以0.00...1的形式给出的精度？

java、math、precision、arithmetic-expressions、rounding

我有一个奇怪的问题，必须将双精度数的精度限制在小数位数，或者根本没有小数位，精度是这样的: 0.001，0.1，1，0.00001，等等。例如，我可以得到1.234247324和0.001的精度指示器，然后我需要返回1.234。如果我得到的是1.0的精度，那么我将返回1(没有小数位)，依此类推。我不知道该怎么

浏览 47提问于2018-01-09得票数 0

回答已采纳

3回答

Matlab中的双精度运算

matlab、floating-point、double、precision

我在理解这些双精度数的精度如何影响Matlab中算术运算的结果时遇到了一些麻烦。我认为，由于a和b都是双精度的，它们将能够执行达到该精度的操作。a = 1.22e-45a == 0(a + b) == 1为什么它能够携带足够的精度来识别

浏览 1提问于2010-09-13得票数 5

1回答

不确定要使用哪种MySQL数据类型

mysql、database

我将它们用作双精度值和字符串(在应用程序代码中)。我将它们作为双精度存储在我的MySQL数据库中。我还需要它不加10.600。例如，如果我得到10.60，它不应该将0加到10.60。我不确定哪种数据类型适合我的需求。它需要存储为双精度值，但保留其尾随的</

浏览 0提问于2012-10-09得票数 0

6回答

在小数点后添加逗号千位分隔符(.net)

.net、formatting、string-formatting、number-formatting

我有一个十进制数，比方说1234.500。我目前正在将其转换为双精度值，以删除尾随的‘0’。string.Format("{0:0,0}",1234.500)删除了小数位，而其他格式选项似乎无论如何都使用两个小数位。有谁能提供见解吗？

浏览 1提问于2009-10-19得票数 18

回答已采纳

点击加载更多