5回答
虽然内部表示有17个双字符，但IEE754 (64位)浮点应该正确地表示15个有效数字。有没有办法将第16位和第17位强制为零?？
参考文献：。。请记住，浮点数只能近似十进制数，并且浮点数的精度决定了该数字近似十进制数的精度。默认情况下，双精度值包含15位小数精度，但内部最多保留17位。浮点数的精度有几个结果：。。示例编号: d1 = 97842
浏览 1提问于2009-10-05得票数 3
2回答
我想打印出双精度值的字符串表示而不损失精度使用ToString()当我尝试将其格式化为字符串时得到以下结果：i.ToString(); //displays 101535479557523
我如何在C#中做到这一点？
浏览 1提问于2011-01-21得票数 2
这是我的python代码，将十进制数转换为二进制数，它适用于一些简单的数字，如0.876，但当我给它一些硬数字，如0.876，0，0，0，0，1，0，0，0，0，0，1，1，0，0，0，0，1，0，0，1，1，0，0，1，1，1，0，1，0，1，0，1，1，1，1，0，0，0，0，0，0，0，0，0，0，0，0，0，0，0，0，0，0，1，1，0，1，0，1，0，1，但是真正的二进制应该是0.11100000010000011001
浏览 7提问于2021-09-13得票数 0
这段代码： thing = str(round(random.uniform(1,3), 3))并不总是生成3个小数的数字，有时给我的数字只有2个小数。，然后我附加另一个随机生成的整数字符串。喜欢 thing = thing + str(2)
但是，我想知道如何设置参数以始终生成固定长度的</em
浏览 34提问于2019-08-09得票数 0
回答已采纳
我正在读取工作中的流控计算机的寄存器(有点像PLC)。根据文档，寄存器存储为IEEE单精度浮点数。我读取寄存器并将它们存储在CComVariants ( MS VARIANT类的包装器)中。我知道这样的值存储在设备寄存器中...0.30.050.4500000000031
0.
浏览 0提问于2012-03-26得票数 0
在我的c#控制台应用程序中，我希望将双精度变量转换为字符串类型。但是结果字符串变量应该至少有小数点左边的3位和小数点右边的1位。示例: 3.4569应转换为"003.4“ string StringNu
浏览 2提问于2013-04-03得票数 3
回答已采纳
1回答
我有一个问题，如果python的条件是，如果结果是一个整数，如果结果是十进制数，如果你可以打印相应的小数，我如何对python进行除法。例如： print(division) 2如果同一个变量的值发生了变化，例如：
division = 15/4
浏览 10提问于2021-05-15得票数 0
回答已采纳
6回答
我正在通过艰难的途径学习Python，我遇到了这样的情况：
我不知道如何输出浮点数，我考虑过使用round(3 + 3, 2)。
是这样的吗？
浏览 3提问于2010-12-13得票数 9
回答已采纳
2回答
我是python的新手，我正在将程序从VBA Excel重写到Python。但当我这么做的时候：它给了我一个错误
我需要一种方法来对所有
浏览 32提问于2017-02-07得票数 0
回答已采纳
我做了一些计算，得到了这样的结果：newFloat = 200.0
print "Something"当我运行我的应用程序时，它没有打印出来，但是当我在python上测试它时，它会打印Something！所以我测试这个，>>> number但是当小数超过13，就像
浏览 3提问于2016-03-17得票数 0
回答已采纳
2回答
我正在尝试使用子查询中的两个变量来计算一个比率，我希望我的结果在小数点后有三个值。变量：盒子--类型(浮动)仅返回两个小数点此代码返回
浏览 2提问于2018-02-26得票数 0
1回答
我需要精确地总结一长串十进制数，精确到至少小数点50位。我也需要能打印一些数字。我真正需要的是无限小数位。
我不知道该怎么做。浮点数应该转换成字符串，然后用十进制模块打印出来，对吗？但是我在理解这个模块或它的局限性方面没有成功。如果有人能帮我解决这个问题和/或提示我一些关于python中的十进制模块或浮点数的有教育意义的</em
浏览 2提问于2013-08-15得票数 0
回答已采纳
3回答
我正在寻找一些REGEX或其他方式在JS如何从字符串中删除十进制数。Mazda 6 Skyactiv-G Wagon 2018 - Startstop.sk - TEST无论我在哪里，人们都希望保留整数和小数，只需删除字符串。但我想保留所有整数，只要去掉小数(用逗号,或点.)(/[\d\.]+/))
//
浏览 11提问于2020-10-29得票数 1
回答已采纳
我不明白为什么，通过格式化一个包含浮点值的字符串，最后一个字符串的精度不被考虑。即：返回：(丢失了4个标志！)在那一刻，我解决了具体的问题：与预期的…一样，返回'38.2551994324‘但是我真的应该手动强制我想要多少个十进制数吗？有没有一种方法可以简单地告诉python
浏览 0提问于2013-12-15得票数 11
回答已采纳
云服务器
ICP备案
即时通信 IM
云直播
实时音视频
腾讯云开发者
