在Python中(无论是常规的浮点数、numpy还是decimal)，在获取字符串表示时，有没有办法同时设置最小和最大小数位？1.00 -> 1.001.000100 -> 1.0001 (保持精度，但丢弃尾随0)我的第一
浏览 0提问于2019-07-16得票数 0
2回答
在某些环境中，精确的小数(数字，数字.)是用scale和precision定义的，标度是所有的显着数字，精度是小数点的权利。如果抛出的字符串的精度高于实现定义的精度，我希望使用python的十进制实现来引发错误。decimals.Decimal('1234.1')
decimals.Decimal(
浏览 1提问于2016-09-12得票数 2
回答已采纳
日期时间(秒精度)
大量的bool值(如果您有很多它们，那么由于它们的标记，每个值都会有1-2字节的开销)。此外，其思想是很容易地映射它们，以对应C++/Python/Java数据类型。
浏览 4提问于2009-09-30得票数 11
回答已采纳
1回答
由于某些原因，Decimal对象在相乘时会失去精度。没有理由发生这样的事情。请检查测试用例，并给我启蒙。, InvalidOperation, Overflow])b = 1不确定这是否相关，但使用了python2.6
浏览 0提问于2011-06-26得票数 6
回答已采纳
2回答
等价于float128
、、、
如何在Python中使用等效的__float128？对于decimal.getcontext()，我应该使用什么精度？我的意思是，精度是在小数位还是位中指定的？是否可以为给定的操作设置“本地”精度，而不是使用getcontext().prec“全局”设置它？
根据Simon的评论，可以用Decimal来模拟IEEE754定义的Decimal吗？如果我想要四倍精度，那么在Python中还有哪些其他选项呢？
浏览 0提问于2017-02-01得票数 3
回答已采纳
1回答
我有一个MySQL数据库，其中包含一些具有非常精确的小数值的双精度数(例如，0.00895406607247756，17位小数)。这是科学数据，所以高精度是非常重要的。我在Python语言中使用MySQLdb从数据库中选择数据： row = cursor.fetchone()由于某些原因，当达到我非常
浏览 1提问于2010-07-29得票数 1
回答已采纳
我不明白小数除法背后的逻辑：getcontext().prec = 2>>> Decimal("11") / 2
Decimal(
浏览 2提问于2017-12-26得票数 0
在Python的小数四舍五入中，有没有比我的方法更好(更快，更高效，或者“只是更多的琵琶”)的方法？Decimal((sign, digits[:exponent+len(digits)+decimal_places],-decimal_places))decimal.Decimal('%.*f' % (decimal_places, number))
1小数点~200位的速度更快。在我的例子中，我
浏览 0提问于2014-10-06得票数 0
回答已采纳
1回答
这个库接口了许多比例模型，每个模型都有自己的精度。在我的C++应用程序(使用该库)中，我需要做的是从刻度(双倍格式)中读取权重值，并将其打印出来，同时考虑刻度精度(因此，为用户提供读取该值的刻度精度信息)。因此，连接具有2个小数精度的小数位数时，输出应为例如:23.45g；连接具有4个小数精度的小数位数时，输出应为例如: 23.4567 g
事实上，我不知道图书馆里的小数位数精度。，以便输出显示具有
浏览 1提问于2017-03-15得票数 0
1回答
我目前正在尝试用Cython优化Python代码。我需要的输出是完全相同的，但我希望麻烦与精确。据我所知，Python具有无限的精度，Cython的'Double‘相当于Python浮点数。这些产品的精度与Python中的精度相同！问题是把这三个值相加。它只剩下三位小数。我觉得这是因为在大多数情况下，被总结的3个组件中只有3个小数位(例如35.879999999999995，51.068999999999996，9.348)
浏览 3提问于2021-01-05得票数 1
2回答
如何使Python中的十进制更精确，以便我可以计算到
0.0000000000001 * 0.0000000000000000001 = ?我需要加上小数，比如0.0000000145和0.00000000000000012314，并把它们相乘，得到精确的结果。是否有所需的代码，还是有一个模块？提前谢谢。
浏览 1提问于2017-10-01得票数 2
回答已采纳
下面的代码输出的值是为什么这道简单的数学题没有返回0.000037275？buyinamount = .00003550amtgained=float(buyinamount*percentgain)+buyinamount
浏览 0提问于2018-11-02得票数 0
我使用python编译器，并注意到1e9给出了浮点文字。因此，在我看来，这一特性是由浮点运算的“怪诞”引起的。但我还是不明白小数点后的零怎么会引起差异。为何会出现这种差异呢？
浏览 2提问于2021-05-07得票数 8
回答已采纳
在Python中，您可以拥有任意大的整数(尽管它可能占用您所有的内存来存储它们)。另一方面，随着浮点数的增加，它们最终会溢出，如果你试图用小数点太多的话，你就会失去精度。
哪一个是类？小数点之前能给我任意数量的数字吗？小数点之后呢？限制是什么？
浏览 1提问于2019-08-08得票数 3
回答已采纳
指出精度和小数位数的范围从(8，0)到(16，7)。
现在，小时(00-23)、分钟(00-59)和秒(00-59)最多只能有两位数，因此它们的精度总和不能超过6。如果我们将毫秒(000-999)加到等式中，那么精度可以上升到9。没有小数点，因此小数位数应该始终为零。那么像(8，0)或(16，7)这样的值对于精度(除非精度计算小时、分钟和秒之间的冒号分隔符)和小数位数意味着什么？精度不应该只有9(如果我们计算冒号的话
浏览 13提问于2017-01-05得票数 1
回答已采纳
我刚刚开始使用Python2.7，并试图构建一个简单的信用支付计算器作为测试。根据我所发现的，十进制函数应该强制程序计算到一个特定的小数位数。
浏览 1提问于2012-08-31得票数 0
回答已采纳
如果5、5.00和5.000都是不同的，那么为什么即使我有decimal_places=2，Django的decimal字段也不保存.00
浏览 0提问于2010-01-07得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
