1回答
我有一个MySQL数据库，其中包含一些具有非常精确的小数值的双精度数(例如，0.00895406607247756，17位小数)。这是科学数据，所以高精度是非常重要的。我在Python语言中使用MySQLdb从数据库中选择数据： row = cursor.fetchone()由于某些原因，当达到我非常精确的小数
浏览 1提问于2010-07-29得票数 1
回答已采纳
1回答
我试着做数学计算，它们需要超过100小数点的精度。C数据类型不能超过16个字节(长双)，所以我不能计算超过17个小数。是否有一种方法可以在C中创建一个可以获得更高精度的变量？
浏览 1提问于2018-04-23得票数 0
回答已采纳
2回答
Teradata:除法和大小数
、、、、
我尝试将两个小数( 15，2)相除，并返回15位的高精度小数，但我在超过10位的任何小数位上不断得到2616数值溢出错误，有没有其他方法可以实现15位的小数结果？
浏览 47提问于2020-04-18得票数 0
回答已采纳
1回答
如果我想使用高精度的小数怎么办？，我知道V8 / SpiderMonkey可以和C一样快，但是有没有人做过MongoDB数据计算的基准测试？例如，如果我想要找到我在1中加载的1,000,000项的平均值，我可能可以使用任何编程语言以映射的方式实现.人们在使用JavaScript和MongoDB时遇到了麻烦吗？你觉得呢？
浏览 3提问于2011-07-13得票数 3
回答已采纳
2回答
我使用Ilog Cplex和c++实现了我的数学模型。我的大多数决策变量在最优解中都有小数值。其中一些非常小，cplex会将它们输出为0。有没有办法提高精度，让我仍然可以看到这些变量的值？
浏览 4提问于2016-09-30得票数 0
2回答
拼音小数精度
、、
我该如何做一个更高精度的小数呢？例如，在IRB中，=> 3.141592653589793
它去掉了一些小数点。我如何保留整个小数点？
浏览 5提问于2012-09-06得票数 3
回答已采纳
2回答
我正在用C语言编写一个图形程序，我的笛卡尔数值在-1,1之间，我很难对数值进行舍入，以便我可以使用它们进行绘图和进一步的计算。我知道如何用小数点舍入大于1的值，但这是我以前没有做过的。
浏览 2提问于2013-07-22得票数 1
回答已采纳
1回答
我认为大整数也适用于小数，但它不是。我需要打印高精度的decimal，有没有等同于BigInteger的十进制？
浏览 29提问于2020-07-06得票数 0
2回答
我正在尝试生成一系列高精度的双随机数。例如，0.856365621 (小数后有9位数字)。
我在网上找到了一些方法，但是它们确实产生了双随机数，但精度并不像我要求的那样好(小数点后只有6位)。
浏览 1提问于2013-08-09得票数 4
1回答
处理高精度小数
、、
0.0000374155553919999total that I want: 0.0000003741555539199
我对小数点后我试着把十七个小数点后除以100，但没有起作用。
浏览 0提问于2017-10-02得票数 0
回答已采纳
我想用下面的形式来表示它，使用'bc‘实用程序作为例子来计算扩展/更高精度/小数位数形式：scale=400.00000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000
我需要一个Javascript bigint库或代码来产生与数字的扩展/更高精度
浏览 1提问于2011-07-20得票数 0
回答已采纳
6回答
是否可以用计算高精度的数学常数 (2000+小数位)的值？
我特别感兴趣的是一个与或集成的解决方案。
浏览 21提问于2010-08-24得票数 15
回答已采纳
1回答
我试图创建一个数据库驱动的网站与PHP和数据存储在一个PostgreSQL数据库，(与PDO访问)，我将需要存储和操作高精度的十进制数字(在某些情况下，超过20个数字后的小数)。我计划在我的数据库中使用数字或十进制数据类型来存储这些数据，以便保持所需的高精度。
使用PHP来(1)访问这些值，以及(2)对这样的高精度数字执行基本算术的最佳方式是什么？
浏览 1提问于2011-12-13得票数 7
回答已采纳
1回答
目标函数的小数部分非常小，cplex返回0，因此cplex放弃了目标函数的一部分(因此目标函数并没有真正优化)。有没有办法提高精度，使cplex考虑到小数的最大值？我已经创建了一个文件ops将小数位数从4改为10，但cplex始终不会考虑小数点后的数字，因为您可以很好地理解下面的图像。 ?
浏览 61提问于2019-02-26得票数 0
用户希望将数字四舍五入到小数点后两位。当然，如此多的舍入会导致系统的不同部分之间存在很多差异。谢谢。
浏览 0提问于2016-04-14得票数 0
1回答
我希望确保两个变量a和b以高精度相乘，即以任意精度执行a和b的乘积c (在我的示例中为50位正确的小数位)：b = vpa(7/13,50); 这给了我
a = 3.3333333333333333333333333333333333333333333333333b =
浏览 20提问于2015-06-08得票数 1
6700000 ;select cast(52 as decimal(2,0)) * 20 / 6700000;
=0.00015522 为什么使用小数会破坏精度使用更高精度的decimal没有帮助，或者将查询的所有成员转换为decimal，结果将仅保持8位精度。
浏览 28提问于2020-11-10得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM活动推荐
腾讯云开发者
