我需要能够加，减，并存储(通过JSON)的数字高达+/-99.99*10^2040的全精度(下降到0，所以不是0.9或更低)。我遇到的两个主要问题是，Infinity远远低于这一点，而且大数字会失去精度。我非常希望不要把整个东西转换成一个字符串，因为JSON文件很快就会变得混乱。我想做一些像["99", "50"]这样的事情来表示99*10^50，但是这要么会失去精度
浏览 8提问于2017-08-02得票数 1
我正在使用以下代码将一个数据表批量插入到我的SQL表中：我的SQL表中有一个名为"Value“的列，它的类型是decimal (28,5)。我的问题是，一些带有十进制数的</
浏览 5提问于2013-06-30得票数 8
回答已采纳
1回答
可能重复：
在将纬度/经度值存储为double时，我始终使用包含裁剪数字-e.g的变量。47.2792表示47.279229，8.42432表示8.424317-在变量赋值和执行算术操作-e.g期间，使变量保持所有数字而不丢失的最佳方法是什么。添加0.01098901098到47.279229并将其作为一个新变量存储，而不会造成任何精度损失等等-？setpreci
浏览 2提问于2012-10-02得票数 0
我在Python脚本中有一堆32位浮点值，需要将它们存储到磁盘中，并将它们加载到C++工具中。目前，它们是用人类可读的格式编写的。然而，对于我的(数字)应用程序来说，精度的损失太大了。我如何最好地存储(和装载)它们而不丢失？
浏览 4提问于2017-09-26得票数 1
回答已采纳
1回答
我想知道是否有办法使浮子像这样，00749052940542251加倍而不损失精度，然后转换成相同的浮点数？
浏览 0提问于2017-11-21得票数 2
回答已采纳
在来自服务器的Double应用程序中，我有一个Java值。我想将这个值存储在MySQL中，但我不希望出现任何精度损失。我在MySQL文档中看到，数据类型需要传递精度。因此，我不知道如何安全地定义它。
浏览 3提问于2022-11-04得票数 0
与所有IEEE7540系统一样，像4.7这样的Swift中的数字被视为像4.7000000000000002一样的值。，因此不需要用包含关于浮点精度损失的背景文章的链接的评论来处理。= "[4.7000000000000002]"
JSON标准不要求实现细节，如溢出、下溢、丢失精度</e
浏览 6提问于2020-07-20得票数 7
就像问题说的那样。与(截断的)字符串表示形式相互转换可能会影响它们的精度。但是以其他格式存储它们会使它们变得不可读(是的，我也希望如此)。
如何在不损失精度的情况下将浮点数存储在文本中？
浏览 5提问于2012-06-20得票数 7
回答已采纳
我希望将字符串字段从CSV输入文件转换为特定的数据类型，即布尔型、小数型、数字型和整型。Rate: payload01."rate" as :number,String -> DecimalString -> number
我使用的是Anypoi
浏览 16提问于2017-01-11得票数 1
回答已采纳
3回答
我正在用Haskell编写一个函数，它处理超过32位int长度的数字。我找不到这样做的类型，而且我似乎在搜索错误的术语。它需要能够保存长度约为2^40的数字而不损失任何精度addTwo :: Int -> Int -> Intmain = do
浏览 3提问于2009-06-14得票数 5
回答已采纳
2回答
我想打印出双精度值的字符串表示而不损失精度使用ToString()当我尝试将其格式化为字符串时得到以下结果：i.ToString(); //displays 101535479557523
我如何在C#中做到这一点？
浏览 1提问于2011-01-21得票数 2
1回答
我有需要转换为二进制的大整数，但我一直收到以下警告消息：In h(num)：模数2的可能完全精度损失：diff(x%%2^(num_digits:0))中的：模数中的可能完全精度损失
我已经知道，这是因为把一个数字转换成二进制，本质上就是除以2，确定是否有一个余数，一整串的次数，而R有一个最大的数字，它可以在<em
浏览 5提问于2021-01-31得票数 2
8回答
C#将对象转换为小数
、、、
我正在尝试将值为0.39999999999999997的对象转换为十进制变量，而不会损失精度。我尝试了以下方法。decimal.Parse(d.ToString()); // val3 = 0.4我知道这不是decimal数据类型不能存储这个值的问题decimal val5 = 0.39999999
浏览 1提问于2011-07-27得票数 16
回答已采纳
3回答
有一些很好的文档描述了浮点数字的性质，以及为什么在某些浮点操作中必须丢失精度。例如：：人们可以用什么一般的经验法则来知道什么时候精度会丢失，什么时候会保持？
浏览 7提问于2014-07-14得票数 2
回答已采纳
我将数字存储为float，可能会将其写入文件并在稍后检索。如果我将值写回文本框，而不更改它，我希望它与以前完全一样。我不希望浮点“精确”错误，如经典的0.3 - 0.1 = 0.1999999....。这是在执行浮点操作之后才发生的，还是会发生在作为十进制字符串输入的浮点数上？编辑:我不关心精度的损失，比如str(float("1.99999999999999999999
浏览 6提问于2022-04-22得票数 -1
2回答
我编码的是int main(){
fflush我想要1000000000000.000000的结果，但999999982796.800050是我所有的....我应该修复什么？
浏览 1提问于2018-04-03得票数 0
我想把一个数字(64位双精度)转换成两个整数(无符号32位)并返回。在不损失精确性的情况下能做到这一点吗？64位数字应该适合两个32位数字，我只是不知道如何做它在Lua。我用LuaJIT中的bitop库进行的实验没有产生任何有用的结果。是否可以在纯Lua代码中使用ffi将数字转换为unsigned long long并将其拆分？
也许没有精确性的
浏览 5提问于2017-11-14得票数 1
回答已采纳
当使用real和numeric数据类型时，我得到不同的结果。当我使用real作为数据类型时，我得到的finalValue为-139.2466，当我使用numeric数据类型时，我得到finalVaue为--139.246409。哪个值是正确的？当我将这些数字插入到Excel中时，它与值-139.2466匹配。
浏览 2提问于2015-02-12得票数 0
1回答
我在MySQL表中有一个定义为DECIMAL(19,4)的currency列。它不是浮点数，所以没有精度损失的问题。我的问题是如何在不损失精度的情况下将其提取到PHP中，对其进行操作，并将其存储回MySQL中。默认情况下，如果我获取它并操作它，我相信它会变成一个浮点数。我的假设是，我可以使用以下内容：
$price = $price * 100;
浏览 0提问于2015-09-27得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
