0.2不能用浮点表示，因为0.2到二进制的转换是重复的。但是，为什么在转换为二进制时，不能将小数的右侧视为整数呢？也就是说，0.2在二进制中是0.10，因为0将转换为0，2将转换为10？
浏览 9提问于2019-09-07得票数 1
回答已采纳
3回答
我有一个替身，它不一定是正的，但通常是。它可以是0.xxxx000或X.xxxx00000或XX.00000或0.xxx0xxx00000，其中最后一个数字的右侧最终都是0。我需要记录有多少位数。
浏览 2提问于2011-03-28得票数 4
回答已采纳
4回答
双精度-小数位数
、、、
据我所知，数据类型double的值的精度大约为15位小数。但是，当我使用一个十进制重复表示的数字时，比如1.0/7.0时，我发现该变量保存的值是0.14285714285714285 --即17位(通过调试器)。我想知道为什么它在内部表示为17位，为什么15的精度总是写在~15？
浏览 3提问于2012-04-04得票数 49
4回答
我正陷入愚蠢的问题，从来没有见过它。我想知道为什么会这样？以及如何修复它？的测试代码：
public static void main(
浏览 7提问于2015-07-29得票数 0
回答已采纳
1回答
就像标题说的那样，问题很简单。我在StackOverflow(和互联网上)上看到了一些关于咬食用例的问题，但我不明白为什么我们需要使用咬食。我的意思是，字节是计算中最小的内存单位，因此对其执行操作来操作其中的一半似乎并不有效。例如，在 on GeeksForGeeks上有关于以字节交换小块的方法。那么，如果需要像nibble这样的东西，为什么没有在任何非古代编程语言中定义为数据类型(如byte或int或任何其他类型)
浏览 5提问于2021-09-27得票数 3
回答已采纳
2回答
double e = Math.round(c*100)/100.0; }
输出返回一个在第一个逗号之后被切断的双小数位
浏览 9提问于2022-11-27得票数 -3
2回答
为什么C打印小数点后的浮点值与输入值不同？
下面是代码。.__132000，，但它将十进制后的数字更改为.250000。为什么会这样？另外，我们能做些什么来避免这种情况呢？请引导我。
浏览 2提问于2021-08-12得票数 1
回答已采纳
每个人都试图运行这段代码， MsgBox(968 * 0.05 - 55)End Class
结果是：-6.5999999999999为什么不是
浏览 0提问于2014-12-11得票数 0
回答已采纳
7回答
我有一个二进制的数字: 11000000，十进制数是192。当从二进制转换为八进制时，这更容易:每3位给你一个八进制的数字。但是，我很好奇，如果我有一个P数制的数字，并且想把它
浏览 3提问于2009-06-07得票数 2
回答已采纳
2回答
但例如:在这里查看：0.75表示，但实际上是1.75。问题#1如果是这样的话，我们就有8个信号！
问题2如果我为归一化尾数加上1，那么它的2^53可能是：9007199254740992 ( 16位)
为什么<
浏览 3提问于2014-04-22得票数 3
回答已采纳
我从来不明白为什么浮点数据类型被认为是近似值，而decimal数据类型被认为是精确的。我在找一个好的解释，谢谢。
浏览 0提问于2011-09-10得票数 2
回答已采纳
9回答
12.1能否准确地表示为浮点数？
、、、、
这是参考中的注释
12.100000000000000000000000000000000000000000000000000000000000000
浏览 2提问于2009-12-14得票数 4
回答已采纳
我有一个由4个unsigned int条目组成的数组，它们具有相同的值255，我希望将它们转换为decimal值。未处理的异常: System.ArgumentException:十进制字节数组构造函数需要一个长度为4的数组，其中包含val十进制字节。
浏览 7提问于2017-08-04得票数 0
我在Ruby 1.9.3中，浮点加法并没有像我预期的那样工作。0.3 + 0.6 + 0.1 = 0.9999999999999999我已经在另一台机器上尝试过了，并得到了相同的结果。你知道为什么会发生这种情况吗？
浏览 0提问于2012-12-13得票数 6
回答已采纳
7回答
内存、无理数和浮点数
、、、
有些数字不能存储在“内存位”中，因为它们的二进制表示将使它们永无止境。一些有理数在转换成以2为底的数时会遇到这个问题。那么我们如何…2)用计算机程序计算？编辑:为了消除困惑并说声谢谢：
好的，我在上面的帖子中说过-->来看它，或者把它想象成一个无理<em
浏览 0提问于2011-08-30得票数 2
回答已采纳
x = 4.2 - 0.1 python提供了4.1000000000000005给了4.1
发生这种情况的原因是什么？
浏览 0提问于2009-10-20得票数 4
回答已采纳
4回答
在.net中直接比较浮点数(双精度、浮点数)是否相等是不安全的。变量中的双精度值可能会随着时间的推移发生很小的变化。例如，如果您将对象的变量num(double)设置为0.2，则该对象在内存中等待一段时间后，您可能会发现num变为0.1999999999999。因此，num == 0.2在这种情况下将为false。我对这个问题的解决方案是创建一个属性来舍入数字：{}
在调用Num的</e
浏览 1提问于2011-08-20得票数 6
回答已采纳
云服务器
ICP备案
实时音视频
对象存储
云直播
腾讯云开发者
