1回答
十进制浮点数到二进制和后退的转换
、、、、
简而言之，我的问题是，为什么浮点数中的舍入误差只在计算后才出现，而不用于存储文字呢？double a = 10.567;double c = a * b;
然后，C存储值22.824720000000003，而不是22.82472这是因为结果22.82472不能准确地存储在双类
浏览 0提问于2016-08-18得票数 2
回答已采纳
2回答
我对浮点算术中的四舍五入到最接近感到有点困惑。设a、b和c是归一化的双精度浮点数。a+b=b+a中的+是否被正确地舍入为最接近的浮点加法？我最初的猜测是，是的，这总是正确的，但我不完全理解舍入到最近。谁能举个例子，当a+b != b+a使用浮点加法，四舍五入到最近的时候？
浏览 2提问于2013-02-20得票数 2
回答已采纳
2回答
众所周知，浮点值不能准确地表示每一个十进制值。因此，1/3的浮点值并不完全是1/3。因此，通常不宜直接比较浮点值。
然而，在这个应用程序中，我试图确定两个分数a/b和c/d是否等价。如果是，则存在整数e和f，使得a * e = c * f和b * e = d * f。假设a，b，c，d，e，f都是正整数，完全可以用浮点值表示。在实践中，简单地
浏览 1提问于2018-04-14得票数 3
当我开始使用相等运算符比较两个浮点值时，我使用的代码审查工具抱怨如下。正确的方法是什么，怎么做？有没有我可以重用的助手函数(commons-*)？描述说明比较这两个浮点值，看看它们的值是否接近。float b;
{}
浏览 44提问于2011-07-27得票数 19
回答已采纳
2回答
舍入浮点结果
、、、
我有两个浮点(双)值a和b，我希望将它们相加以得到结果c。我该怎么做？下面的代码出现在c中，但我不确定答案是否会是我想要的。
c = nextafter(a + b, bigNe
浏览 2提问于2015-07-15得票数 2
回答已采纳
假设我有3个浮点数，可以精确地用浮点数表示：var b=0.200000000000000011102230246251565404236316680908203125我认为a+b+c应该等于c+b+a，因为a、b和c都已经四舍五入并且是确切的值，它们的和不应该取决于顺序，但是现在我测试了它不是<
浏览 3提问于2018-06-01得票数 3
回答已采纳
1回答
Ada :浮点数与浮动变量
、、、、
我看到了一些奇怪的行为，当四舍五入浮点数在我的Ada代码。我的问题是，为什么首先将值存储在变量中会很重要。float'rounding(8.9 / 0.2)但是后来b : float : 0.2;
float'rou
浏览 3提问于2021-05-26得票数 1
测试平台实质上是测试一块充当单精度浮点加法器的硬件，因此向量将符合IEEE754标准。那么这会截断结果吗？BigDecimal repA = new BigDecimal(Float.toString(A));
BigDecimal repB = new
浏览 0提问于2012-04-01得票数 5
回答已采纳
2回答
使用浮点，众所周知，二次公式不适合b^2>>4ac，因为它将产生显着性损失，因为它被解释为。
我被要求找到一种更好的方法来求解二次方程，我知道有算法。还有其他更好的公式吗？我怎么能想出更好的公式呢？
浏览 0提问于2018-02-26得票数 11
回答已采纳
2回答
但这并不需要0.01。我知道这是因为0.01不能精确地以二进制码传输。但我只想让它打折0.01。我还有一行printf("%.2f",money[15]);显示money15是0.00，不是我想要的0.01。
浏览 0提问于2014-03-11得票数 0
1回答
浮点精度与方案中舍入误差的消除
、、、、
我有一个将浮点数返回到小数点后三位的过程。3.665> (* 1 (- 0.5 0.4 0.1))不<em
浏览 0提问于2013-04-30得票数 3
回答已采纳
2回答
numpy矩阵反演舍入误差
、、、、
对于我的BinvA矩阵(1,1)项，我得到了一个非常奇怪的值我知道，当我手工计算时，我的(1,1)应该是0，但我得到的是1.11022302e-16。我知道浮点数不能完全准确地表示，但是为什么这给了我如此不准确的反应，而不是舍入到0，有什么方法可以使它更精确吗？她是我的代码：A = A.tr
浏览 3提问于2014-07-02得票数 0
回答已采纳
.eq(Thing.FLOAT_FIELD_NAME, Double.valueOf(otherThing.getFloatField()));
浮点数或浮点数(DataType.FLOAT或DataType.FLOAT_OBJ)保持为SQL类型浮点数。所以我的问题是:这是我的代码中的一个bug吗(但我不明白，我是不是正确地使用了where()？)，这是莫来特在float或其他方面的奇怪之处吗？
浏览 2提问于2014-08-19得票数 0
回答已采纳
我是否只需要担心添加(*和/在我的测试中似乎没有相同的问题)？
我在很多地方都找过答案。有些教程(比如购物车表单)假装这个问题不存在，只是一起添加值。
浏览 10提问于2010-08-09得票数 80
为了确保结果是有意义的，我可以检查b和c是否相等：if ((b - c) > EPS || (c- b) > EPS) return a / (b - c);但我的测试表明，仅仅保证有意义的结果是不够的，如果可能的话，也不能提供结果。案例1：b</em
浏览 3提问于2010-04-28得票数 20
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
