0回答
我有一个反序列化十进制值的问题。如果我在调试器下的VS中输入以下代码，结果是如果我尝试这样做结果是8777.83143832257
浏览 5提问于2018-07-06得票数 3
回答已采纳
我想确保它的十进制值没有精度损失(即)输入到大小数点的准确存储。我的理解是，当我试图将无限大的双小数点转换为大小数点时，就会出现精度损失，因此，建议使用double的字符串表示来创建大小数点。基本上，我想确定是否使用BigDecimal(String)来构造这种无限倍的大小数。
根据我的理解，经过后，在大十进制转换过程中导致精度损失的输入双值总是有很大的大小，不适合于64位。例: 0.1。所以，这样
浏览 0提问于2020-06-12得票数 0
回答已采纳
我在使用WebAPI和JSON.Net时遇到了一个奇怪的问题。当反序列化已经提交到我的API的JSON时，我似乎失去了精度！我将小数提交到3位小数，但当值在我的对象中实现时，它只有2位小数！如果我提交两个或更少的小数位(即123.4或123.45)，值就会像预期的那样被反序列化，但是如果我提交的小数位数超过2位(即123.456或123.4567等)，值总是被反序列化为123.45。
浏览 0提问于2013-07-25得票数 12
回答已采纳
如何让JSON.NET在解析浮点数时返回小数而不是双精度？(它是一个带有序列化的Dictionary<string,object>的对象)。我尝试过编写一个JsonConverter，但是CanConvert方法不会被双精度类型调用来尝试和转换它。还有其他关于覆盖JsonTextReader的代码，但在最新版本的Json.Net中似乎不可能做到这一点。
浏览 0提问于2013-03-25得票数 11
回答已采纳
我们使用decimal数据类型将财务数据存储在SQL Server数据库中，我们需要6-8位的小数精度。当我们通过数据访问层将这个值返回到C#服务器时，它将作为decimal数据类型返回。正如MS文档所说的那样，转换为双精度是“从小数转换为双精度会产生舍入错误，因为双精度浮点数的有效位数少于小数”。作为双精度(或字符串)，我们可以在任何计算完成后四舍五入到两位小数，那么什么是“正确”的方式来进行小数转换，以确保我们在
浏览 2提问于2011-02-19得票数 5
回答已采纳
浮点数的值类似于2.0f，所以我不介意小数部分和精度损失。有什么合法的方法可以毫无困难地将其转换为NSInteger (当然，除了精度损失之外)？
浏览 3提问于2009-09-02得票数 4
2回答
从我所看到的，这似乎是一个严格的问题，对于小数65 (似乎也是15)和256 - 267范围内的整数。我知道这与使用浮点数进行这些计算有关，但我仍然很好奇这些值有什么特别之处
浏览 0提问于2016-11-12得票数 2
1回答
它存在一个在小数点后有两位数的最大浮点数，它可以用JSON.parse解析而不会失去精度？例如：
{金额: 99999999999999.98} //损失
浏览 1提问于2018-03-02得票数 1
回答已采纳
将java.sql.Timestamp转换为javax.xml.datatype.XMLGregorianCalendar最简洁的方法是什么
由于XMLGregorianCalendar具有小数秒的BigDecimal精度，因此精度没有损失，但是我不确定应该在XMLGregorianCalendar对象上设置哪个时区，因为java.sql.Timestamp是独立于时区的。在上有一个答案，所以我可以将我的Timestamp转换为java.util.Date，但这将导致亚毫秒范围内的精度损失</em
浏览 2提问于2013-11-04得票数 1
1回答
需要将带有长尾数的值列表转换为pd.DataFrame而不损失精度： ? 我的小数列表： ? pd.DataFrame转换它的方式。
浏览 175提问于2021-10-21得票数 0
回答已采纳
1回答
我们有一个除法运算的精度损失，在表中这两个值都定义为(69362.86 / 111862.86) (38，3)。要求我们将参数spark.sql.decimalOperations.allowPrecisionLoss设置为false，以避免精度损失。根据中规定的规则，除法的精度和小数位数的值由以下公式确定。修复这种小数截断的一种方法是对输入列使用适当的小数精度和小数位数。我认为，根据表中的数据，我们可以轻
浏览 0提问于2021-05-30得票数 2
是否可以强制实体框架代码首先在C#实体中使用浮点型(或双精度型)，并将它们映射到SQL Server中的小数？将需要一个转换，可能会有精度损失从小数到浮点数或双精度，但假设这是可以避免的，由于特定的领域，EF会让你这样做吗？public class House ...
浏览 3提问于2013-01-09得票数 5
回答已采纳
我可以承受损失一个小数位的精度，所以我使用.toFixed(15)，这是一种有效的方法。注意：.toPrecision不是我想要的；我只想指定小数点后有多少个数字。注2:我不能只使用.toPrecision(1)，因为我需要保持小数点后实际数据的高精度。理想情况下，需要的小数位数应该是一样多(最多15位)。
浏览 247提问于2011-09-06得票数 97
回答已采纳
我的问题是，一些带有十进制数的值正在自动四舍五入，因此我失去了精度，例如，0.72768的值被保存为0.72767。有没有人有主意？
浏览 5提问于2013-06-30得票数 8
回答已采纳
显然，我的Matlab必须将这些有理数转换成实数，但我希望它能最大限度地提高可用的精度。它将值存储为双精度，但它将它们存储为-这是一个巨大的精度损失。双精度不应该意味着数字小数部分的52位精度，为什么数字被截断得如此严重？
浏览 2提问于2012-11-11得票数 1
回答已采纳
在排序和显示大数字时，您通常会以表示法显示大数字。我试图使用cpp中的<iomanip>库来显示整个数字，但对于非常大的数字，它失败了。 #include<bits/stdc++.h> using namespace std; { cin>>n; for (int i = 0;i < n; i++)
浏览 0提问于2020-06-02得票数 0
云服务器
ICP备案
实时音视频
云直播
对象存储
腾讯云开发者
