1回答
我有一个MySQL数据库，其中包含一些具有非常精确的小数值的双精度数(例如，0.00895406607247756，17位小数)。这是科学数据，所以高精度是非常重要的。我在Python语言中使用MySQLdb从数据库中选择数据： row = cursor.fetchone()由于某些原因，当达到我非常精确的小数
浏览 1提问于2010-07-29得票数 1
回答已采纳
1回答
我试着做数学计算，它们需要超过100小数点的精度。C数据类型不能超过16个字节(长双)，所以我不能计算超过17个小数。是否有一种方法可以在C中创建一个可以获得更高精度的变量？
浏览 1提问于2018-04-23得票数 0
回答已采纳
用户希望将数字四舍五入到小数点后两位。当然，如此多的舍入会导致系统的不同部分之间存在很多差异。谢谢。
浏览 0提问于2016-04-14得票数 0
2回答
我有一个代码，它接受输入T，后面跟着T行。我想将精度设置为12位小数。如何在Haskell中提高精度？f i=(-1)**i/(2*i+1) p(_:l)=map(g.read)l如果输入是
浏览 0提问于2015-02-14得票数 2
它有实型，用于高精度的计算。在其他项目中，我有双小数类型，我想用Real替换它。
我需要用自定义的Real替换Math.Round() (输入gnump.net)。
浏览 1提问于2014-12-17得票数 1
回答已采纳
1回答
如果我想使用高精度的小数怎么办？，我知道V8 / SpiderMonkey可以和C一样快，但是有没有人做过MongoDB数据计算的基准测试？例如，如果我想要找到我在1中加载的1,000,000项的平均值，我可能可以使用任何编程语言以映射的方式实现.人们在使用JavaScript和MongoDB时遇到了麻烦吗？你觉得呢？
浏览 3提问于2011-07-13得票数 3
回答已采纳
2回答
我使用Ilog Cplex和c++实现了我的数学模型。我的大多数决策变量在最优解中都有小数值。其中一些非常小，cplex会将它们输出为0。有没有办法提高精度，让我仍然可以看到这些变量的值？
浏览 4提问于2016-09-30得票数 0
我有一个输入从vhdl代码输入到Nios系统，用C语言编程。在vhdl中，当我将这个输入输入到C编译器时，在终端窗口中显示，在vhdl中，输入被声明为有10个小数点和6个小数点。所以,我应该如何做才能在
浏览 3提问于2015-06-30得票数 0
回答已采纳
2回答
我正在用C语言编写一个图形程序，我的笛卡尔数值在-1,1之间，我很难对数值进行舍入，以便我可以使用它们进行绘图和进一步的计算。我知道如何用小数点舍入大于1的值，但这是我以前没有做过的。
浏览 2提问于2013-07-22得票数 1
回答已采纳
6回答
我正在用C语言构建一个程序，它可以获得2的强大功能。用户输入n的值，程序计算2^n。我得到的是：我应该得到什么我在这里缺少的是精确度，我不知道如何解
浏览 7提问于2012-11-01得票数 5
回答已采纳
1回答
我需要有java代码，在不同的基地之间转换，同时保留小数位。我不需要帮助设置它，因为我需要弄清楚如何在保留小数位的同时转换基数，以提高精度。基本上，我如何在保持尽可能高的精度(尽可能多的输入)的情况下在基数之间进行转换？(如果可以，我会简单地使用parseInt，但它不支持任何精度)
浏览 1提问于2013-12-23得票数 0
1回答
我希望确保两个变量a和b以高精度相乘，即以任意精度执行a和b的乘积c (在我的示例中为50位正确的小数位)：b = vpa(7/13,50); 这给了我
a = 3.3333333333333333333333333333333333333333333333333b =
浏览 20提问于2015-06-08得票数 1
我需要用C语言编写一个程序，它执行以下操作：
编写一个程序，当用户输入一个浮点数时，它会将该数字舍入到小数点后3位。在显示结果时，显示5位小数，这意味着第四位和第五位小数都为0。如何将其四舍五入到小数点后3位，然后显示两个零？我不允许使用任何类型的数学库函数。
浏览 0提问于2013-01-31得票数 2
回答已采纳
有没有办法让双精度数在C#或JS中包含的小数点超过默认的13 (在JS中是17)？就像前25位圆周率的双倍？
浏览 0提问于2018-10-16得票数 0
1回答
默认文件读取器类型的值是'Character‘length '8’我使用输入转换为数字，并将'comma‘替换为'space’并接收到109009的值。我应该使用哪种格式和信息格式来高精度地反映逗号和小数数据。目前，SAS表中显示的最大位数为8位，而在我的.csv文件中，有些数字甚至高达16位。谢谢,
浏览 22提问于2021-01-14得票数 0
我目前正在做一个算法的两个实现，一个是用C语言实现的，另一个是用CUDA实现的，我计划在运行时方面对这两种算法进行比较。我的问题是，考虑到我将在C和CUDA中比较运行时，使用什么是最好的C定时器。对于CUDA，我将使用事件，我已经阅读了C语言中的挂钟计时器，如clock()和gettimeofday()，以及高精度计时器，如clock_gettime()，但如果我要将C时间与CUDA时间进行比较，我不确定应该使用哪种C语言</
浏览 1提问于2012-07-30得票数 1
回答已采纳
我一直试图将小数点显示为小数点到小数点2位，以便进行乘法操作： { }
因此，如果输入0.5 & 30，我将得到15，而不是15.000000；如果输入0.5 &
浏览 1提问于2015-02-27得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
