在减法中，它们都有非零精度，但结果有precision=0。
我期望测试是一个值为-1.79的bigDecimal，int表示应该是-179，精度为然而，在BigDecimal类中
浏览 0提问于2019-04-14得票数 2
回答已采纳
2回答
乘浮精度
、、
在浮点数和双数上执行运算(如乘法、除法、加法和减法)是否保持其精度？
例如，如果我乘以(或除以，加，减) 1000浮动在一起，我还能保持7位数的精度吗？我在这个网站上读到，精度是维持的()，但我想再检查一遍。
浏览 1提问于2016-05-07得票数 4
回答已采纳
1回答
Numpy减法精度
、、、
我有一个numpy数组，x，它是根据一个复杂的方程计算出来的：print(x)print(1.0-x)[ 1. 1. 1.][ -2.22044605e-16 3.33066907e-16 -4.44089210e-16]显式地从包含这些数组的数组开始：print(y)
浏览 2提问于2017-03-02得票数 1
1回答
MATLAB减法时的精度
、、、
我需要一个高精度的项目，我正在工作。我在减法时遇到的问题如下所示：我知道这与双精度有关有没有什么方法可以让我得到更高的精度？我检查了"vpa“功能，但我无法获得更高的精度。有人能帮我一下吗？
提前谢谢你！
浏览 4提问于2014-10-21得票数 3
因为Float16允许10位的分数，所以当我用10位的精度做手工减法时，我不会得到0.0996。
有人能让我了解一下如何使用这些位元进行减法吗？
浏览 4提问于2022-01-13得票数 4
回答已采纳
如果我在超文本标记语言页面上编写document.write(Math.sqrt(2))，就会得到1.4142135623730951。
浏览 3提问于2012-07-01得票数 2
回答已采纳
1回答
我正在尝试分析如何使用reduction (并行)来添加大量浮点数以及其中涉及的精度损失。与串行加法相比，减法无疑有助于获得更高的精度。
浏览 0提问于2014-03-04得票数 2
2回答
double d=16/60; //I got d is 0.0 , but I expected d could be 0.27. 编辑最佳答案:)d= Math.Round(d, 2); //result being 0.27
浏览 4提问于2012-12-11得票数 0
回答已采纳
6回答
我的同事做了这个实验： double a = 1.435; double c = a - b; }对于这个第一级操作，我预期输出如下：但出乎意料的是，输出结果是：为什么double会在如此简单的操作中失败
浏览 0提问于2012-03-28得票数 27
回答已采纳
试图找到详细说明在对不同精度的数字执行算术时会发生什么的文档：寻找对加法、减法、乘法和除法进行此转换的规则。浏览了Oracle文档，但只能找到从Float/Double/Char到Number的隐式转换信息，而不是不同精度的数字之间的转换信息。
浏览 0提问于2018-08-31得票数 1
回答已采纳
1回答
我遇到了一个问题，数字结果的显示精度有时会恢复为四舍五入的整数格式。例如，某些天，像这样的简单计算会生成预期的小数精度结果：> x但是，我可以改天再来，再试一次，然后得到：>x我已经通过减法验证了隐藏的精度仍然存在:例如，它可能会显示344，但值344.25仍然包含在变量中。我不能弄清楚什么在改变(或者如何控制它)，所以它只保持一种一致的方式，最好是小数点右侧的一些显示精度<
浏览 1提问于2018-10-17得票数 0
2回答
浮点无意义的加法与减法
、、、
同时学习浮点算术中的精度和避免精度的不同方法(使用共轭、泰勒级数等)书中经常提到两个非常相似的数字的相减或一个大数字和一个小数字的相减是导致错误的最大原因。为什么只有减法而不是加法呢？
浏览 2提问于2010-09-19得票数 1
1回答
单精度浮点分割的最佳精度
、、、、
如果只使用单精度加/子和乘法硬件(不使用FMA)，是否可以执行除法并获得IEEE-754单精度正确值？具体而言，如果在单精度硬件上执行牛顿-拉夫森法进行浮点除法，是否有可能达到IEEE-754正确的结果？
浏览 1提问于2014-07-18得票数 3
回答已采纳
我想做二进制分类使用深CNN和我有以下的测试精度和训练精度的结果。蓝线显示列车精度，红线在近250个历次后显示测试精度。为什么测试的准确性几乎是恒定的，而不是提高？编辑:在我添加了辍学层，回归项和平均减法之后，我仍然得到了一些奇怪的结果，从一开始就说模型太合适了！
浏览 0提问于2017-01-29得票数 3
1回答
当我计算x+y时，可能是x和y的某些部分抵消了，所以我得到的精度较低。我想我需要计算出当我做加法和减法时有多少位被抵消，然后把这个从x或y的最小精度中去掉，对于乘法和除法，我想我最多只会损失1位的精度。因此，问题非常普遍:如何跟踪mpc对象的精度，特别是在添加和减去它们时？
浏览 0提问于2012-07-29得票数 1
回答已采纳
1回答
我想减去2个双精度数，然后将结果转换为一个整数。i = (int) ( d2 /0.00001); // 53Double不能表示所有的值，因此减法可能会产生错误的值减法的值也会比预期的略大吗？(例如0.00540000000001) Math.ceil在这种情况下给了我正确的答案，但是有没有更好的方法来解决这个问题呢？
浏览 1提问于2014-06-25得票数 0
1回答
我有一个numpy.float64对象，我们称它为值为'1.0‘的A，它是从我正在使用的程序中生成的，我检查了它的类型当我减去这两个值时，我奇怪地得到了这个值：-2.22044604925e-16，而我实际期望的值是0我不确定发生了什么，为什么我得不到0的值，有没有指针？
浏览 0提问于2016-03-14得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
