2回答
在某些环境中，精确的小数(数字，数字.)是用scale和precision定义的，标度是所有的显着数字，精度是小数点的权利。如果抛出的字符串的精度高于实现定义的精度，我希望使用python的十进制实现来引发错误。decimals.Decimal('1234.1')
decimals
浏览 1提问于2016-09-12得票数 2
回答已采纳
我目前正在用python编写科学代码。这段代码使用了几种不同类型的浮点精度，即半精度、单精度和双精度(使用numpy)。然而，我的问题更一般，因为它不是特定于python的。问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。 另一种说法:当转换为更高精度时，我是否更改了浮点数的值？
浏览 37提问于2021-11-17得票数 0
回答已采纳
在python中，是否有一种方法/库可以根据所需的精度将数字展开/解压缩为一个数字范围？to 3，范围为[5.855; 5.864] (diff: 9)to精度4，<code>E 116</code>
浏览 3提问于2021-03-14得票数 1
看起来，在Python的.2中，精度( %g )参数与Python的%f、Python的%e或%e的%g完全不同。下面是 (我的重点)：
精确的规则如下:假设用表示类型'e‘和精度p-1格式化的结果将具有指数exp。然后，如果-4 <= exp < p，则用表示类型'f‘和精度p
浏览 0提问于2017-01-24得票数 4
回答已采纳
1回答
我感兴趣的是常微分方程(ODE)的数值解，其精度为25到30位有效数字(我的意思是在每个点上找到实际解的25到30位有效数字)。
我的第一个猜测是多精度或任意精度的算术。然而，根据这个，有多个精度包在没有多个精度(?!)的情况下进行计算。这可能并不像听起来那么矛盾。然而，它带来了一个严重的问题。那么，有没有什么多精度包(用Fortran、C、C++、Python、Java或其他语言编写)可以进行可靠的多精度计算呢？
浏览 1提问于2019-11-30得票数 0
我知道MatLab每件事都是双倍的，我听说过关于python的类似事情，但不太确定。有人能用参考资料来确认吗？谢谢!
浏览 1提问于2016-07-28得票数 0
回答已采纳
我正在将一些数字从matlab "mat"文件版本5导入到python中，它们具有不同的精度。这是python代码：Matlab output: -0.00309677333880590 -> 18
浏览 94提问于2018-08-02得票数 3
回答已采纳
我使用以下值计算RSA中数字54的密码：因此，加密的数字54将是：或者在python中是等效的：math.pow(54,137)%145
我的计算器是24，我的python语句是54.0。Python显然是错的，但我不知道为什么或者是怎么错的。在您的Python安装上试用它。我的版本是2.5.1，但我也尝试了2.6.5，但同样的错误结果。
浏览 0提问于2011-02-24得票数 5
2回答
我正在将python代码嵌入我的c++程序中。PyFloat_AsDouble的使用正在造成精度的下降。它只保持6位精确数字。我的程序对精度非常敏感。有已知的解决办法吗？; i<PyList_Size(_ret); i++){}
retValsi的精度只有6，而python代码返回的值是一个可以具有更高精度的浮点。如何获得完整的精度</
浏览 7提问于2014-04-07得票数 0
回答已采纳
2回答
我知道int是实数，double基本上是两个中间带点的数字，是小数吗？现在出现了一个棘手的问题，即float数据类型。我觉得浮点型是一种安全的数据类型，你不确定并且想要接受整数和小数，我说的对吗？是不是既接受整数又接受小数？
浏览 2提问于2018-07-21得票数 1
我制作了一个Python脚本来计算阶乘，并用1000进行了测试！但当我投入1000英镑时！进入我的mac内置计算器，检查它返回的计算“不是一个数字”。
浏览 0提问于2019-12-17得票数 1
回答已采纳
我认为大整数在Python中不是一个问题-那么这里有什么问题呢？
浏览 2提问于2017-09-18得票数 2
回答已采纳
4回答
1.41421356237309504880168872420969807856967187537694807317667973799073247846210703885038753432764157273501384623091229702)有没有办法让str()在字符串中记录更多的数字
浏览 0提问于2013-06-11得票数 4
回答已采纳
要设置十进制精度，我可以写：getcontext().prec = 20Decimal(some number但是每次写十进制真的很烦人，特别是当你有很多数字需要处理的时候。如何设置python，使其始终考虑具有指定十进制精度的代码中的每个数字？
浏览 1提问于2018-07-08得票数 0
回答已采纳
我不关心平方小数点之后的任何数字；有没有办法告诉Python不要费心计算这些数字？
还有，是否有一种方法将这个方面(只测试它下面的素数，直到我到达sqrt)集成到for循环中？
浏览 3提问于2014-06-16得票数 2
回答已采纳
1回答
我需要除以2个整数，并将结果显示为至少76位的精度。例如，当我将1除以3时，我需要显示0.33333333333...当我在python中除法并让它在小数点后显示76位数字时，它没有给出足够的精度，也就是说，有些数字是错误的。我使用的是Python3。有没有更好的方法来划分和显示十进制数字？任何帮助都将不胜感激！
浏览 11提问于2017-12-30得票数 1
回答已采纳
2回答
问题是ctype使用32位精度，而python使用64位精度。我该怎么解决这个问题？1.899999976158142
float_str = f"{float_32:g
浏览 1提问于2022-03-16得票数 1
回答已采纳
2回答
许多现代语言都支持任意精确数字。Java有BigInteger，Haskell有Integer，Python实际上是任意的.但是对于很多这些语言来说，任意的精确并不是事实上的，而是以'Big‘作为前缀。对于任意精度，是否有特别的理由使用固定精度的数字？如果我不得不猜测这将是因为固定精度在某种程度上与组装指令相对应，所以它更优化，运行更快，如果您不必担心溢出，因为您事先知道数值范围，那么这将是一个值得进行的权衡。是否有固定精度优于任意精度的特殊
浏览 1提问于2014-05-02得票数 3
回答已采纳
由于某些原因，我必须确定一个大的数字是否是fibonacci数，所以我从互联网上复制了一些代码，并对其进行了一些修改，当输入很大时，它似乎不能很好地工作。这是代码：
# A utility function that returns那是因为这个数字太大，所以会出错吗？但是我认为python应该能够处理巨大的数字，因为它是基于您的内存的？是我的程序出了问题还是因为输入太大了？谢谢
浏览 5提问于2016-12-31得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
