2回答
浮点无意义的加法与减法
、、、
同时学习浮点算术中的精度和避免精度的不同方法(使用共轭、泰勒级数等)书中经常提到两个非常相似的数字的相减或一个大数字和一个小数字的相减是导致错误的最大原因。为什么只有减法而不是加法呢？在我看来，在移位的过程中，你仍然会丢失同样多的有效位。
浏览 2提问于2010-09-19得票数 1
我想从图像中提取噪声，因此需要根据以下公式减去两个图像我不明白如何将两个图像相减，这样就不会丢失任何数据。提前谢谢。
浏览 3提问于2013-06-28得票数 1
培训的目标是尽量减少批处理日志丢失。当我测试模型时，也会使用批处理。为了提高精度和准确度，我可以使用tf.metrics.auc和tf.matrics.accuracy来获得运行精度和运行精度。但是，如何获得测试数据的日志丢失？
浏览 0提问于2018-05-15得票数 0
回答已采纳
1回答
我的postgres数据库模式的表中有一个数值列，它的精度为n。所以m < n。TABLE my_tableTYPE numeric(m, 2)我理解这是因为我在表中存储的值的精度大于m (我希望新精度达到的值)。有没有什么方法可以告诉postgres更改精度并忽略丢失的精度？例如。如果n= 20和m= 15
浏览 12提问于2020-03-07得票数 1
2回答
double answer = a/b; std::cout << std::to_string(answer);浮点型或双精度型: 0.666667；编辑:不能因为使用to_string而丢失精度；
浏览 1提问于2020-07-14得票数 0
4回答
检查序列号
、、
我需要找到丢失的"60001233“。在Excel中，这很简单，但这是一个非常大的数据库，而我完全是SQL或Power BI的初学者。我在计算列中思考，但我不知道如何插入一个“滞后”运算符来将一个数字与前一个数字相减。
提前感谢！
浏览 0提问于2020-12-15得票数 0
3回答
有一些很好的文档描述了浮点数字的性质，以及为什么在某些浮点操作中必须丢失精度。例如：：人们可以用什么一般的经验法则来知道什么时候精度会丢失，什么时候会保持？
浏览 7提问于2014-07-14得票数 2
回答已采纳
4回答
我最近收到一份家庭作业，要求我们采用在计算机上执行时可能会造成精度损失的表达式，并对其进行修改，以避免这种损失。然而，我很难准确地注意到什么时候会出现精度损失。到目前为止，我唯一能确定的是，当你减去两个接近相同的数字时，精度会下降，因为高位数字很重要，而且你会在四舍五入时失去这些数字。
浏览 6提问于2009-02-02得票数 7
回答已采纳
2回答
双精度丢失
、、、
因此，数据是以字符串的形式从文本字段中收集的，然后转换为双精度并持久化。answer;如果使用6532.002作为数据，它将失去其精度
浏览 1提问于2013-03-05得票数 1
564214623154我们将这个c=a*b相乘，它应该是30609771735350808，但当编译它时，它显示3.0609771735351E+16，所以据我所知，它应该会失去一些精度，但当我用c除以c/a时，我得到了564214623154的准确结果，而没有任何精度损失c = 30609771735350808 那么，只有
浏览 1提问于2011-07-13得票数 2
回答已采纳
1回答
我有一个var blah = ctypes.UInt64('65')，65真的是任何东西。我需要做数学，但当我这么做的时候：
浏览 5提问于2014-06-23得票数 0
回答已采纳
1回答
我正在开发一个日期解析器。 const isDate = (d: Date) => !isNaN(d.getDate()); Object.prototype.toString.call(data) === '[object Date]' && ) else if (typeof data === 'string') {
浏览 2提问于2020-01-13得票数 0
回答已采纳
2回答
如果我执行以下操作由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？
浏览 4提问于2012-02-09得票数 5
回答已采纳
在Oracle pro*c中，有没有办法将双精度值转换为字符串而不丢失任何数字？精度随从中获取值的列的数字(10，8)而变化
浏览 0提问于2021-07-16得票数 0
而且，按照和其他编程语言，看起来5726718050568503296值可以精确地表示，而不会失去精度。为什么它在JS中丢失了3位重要数字(转载在最新稳定的google chrome和firefox中)
这个问题最初是从触发的。
浏览 5提问于2021-04-22得票数 9
回答已采纳
4回答
在C++中，我可以在不损失精度的情况下以文本格式写入和读回浮点数(或双精度)吗？= f_read) { }
我理解为什么有时会丢失精确度。是否有一组给定的标志可以保证永远不会丢失精度？这种行为是否可以跨平台移植？
浏览 4提问于2011-09-07得票数 8
回答已采纳
对于任何浮点运算，是否有可能确定该操作会造成精度损失。例如，如果我计算z= x/y，我想确定z是否有确切的值，或者在操作过程中是否丢失了一些精度。
为什么我需要这个：，我正在用区间算法做一些数学运算。目前，对于每一个操作，我假设一个精度损失。如果结果为x，则返回previousClosestFPNumber(x)、nextClosestFPNumber(x)。这是完美无缺的。如果我能确定精度已经丢失了，我只能在这种情况下扩大范围。
浏览 3提问于2015-10-13得票数 3
回答已采纳
我想利用新的Sql datetime2数据类型进行事件日志记录(因为标准日期时间的精度低于System.DateTime，导致存储数据丢失)，但是当我用sqlmetal.exe生成代码时，会收到以下警告db.dbml(98)：警告DBML1008:在从数据库加载时，DbType 'DateTime2(7) NULL‘和'CreatedOn’列中的'System.DateTime‘之间的映射可能会导致数据丢失如果我将列定义更改为datetime2(2)，则警告将消失，但2位数字的精度低于Syst
浏览 5提问于2011-03-04得票数 3
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
