我想除以两个大的小数，并在非终止除法结果中保留最大可能位数(例如1000位)。我应该写什么代码来做这件事呢？
请注意:有没有可能有一个高精度的实现，因为我正在处理重要数据。
浏览 2提问于2013-03-07得票数 3
回答已采纳
2回答
当使用浮点数除法时，Ruby只返回前17位小数。有可能返回更多的小数位吗？
例如，我如何找到22 / 7的第100位小数点
浏览 2提问于2013-12-10得票数 1
回答已采纳
我有一张有以下数据的表格：这些值是从电子表格中导入的，所显示的百分比不够精确。它四舍五入到小数点2位。我可以用收入/费用来计算它，但我没有得到我所期望的价值。我猜这是MySQL和类型的古怪之处，但我不知道发生了什么。为什么MySQL将查询中的两个小数除法舍入为1.000000？
浏览 2提问于2020-12-23得票数 0
回答已采纳
我在做复杂的除法，在这样的背景下，数值精度是很重要的。我发现，把两个complex128数除以没有虚部的结果，给出了一个超过15位小数的结果，它除以与float64相同的两个数。np.complex128(1.337)
# 1.12266267763649940647
我有一个C++参考实现，其中复杂除法与NumPy浮点数除法超过15位小数。我想用
浏览 4提问于2019-10-30得票数 4
回答已采纳
除以R中的两个数字，分子是一个大整数(以百万为单位)除以13.00001，它取13.000001作为13，输出仅限于小数点1位。我要求输出一直到小数点2位，这是没有发生的。我尝试过循环、格式化和as.numeric，但是它没有给出任何结果(整数(除数，1)格式(nsmall=2)使它达到小数点2位，但将它转换为字符as.numeric，但是小数点2位被1小数位替换为1小数位，当我用13.000001这样的整数
浏览 1提问于2014-01-16得票数 2
回答已采纳
在Postgres中，我试图将除法和结果舍入到小数点2位。我试过下面的方法，但它把它们整圈成整数。total_customers)::numeric,2) as SPC,
我怎样才能把结果加到小数点2位呢？
浏览 2提问于2018-09-07得票数 3
是否有任何方法来计算整数除法，同时仍保留小数点？
编辑:看来我可能把你弄糊涂了，我的错。因此，我的教授告诉我，由于标准除法(2/3)只会返回0.666666666666到203个数字，所以当我想在小数点之后进行要求超过203个数字的计算时，这是没有用的。
浏览 5提问于2014-02-10得票数 4
回答已采纳
2回答
在Presto SQL中，SELECT 1 / 3返回0，因为/执行整数除法。
但是SELECT 1.0 / 3返回0.3..。如何获取0.3333333333？(更具体地说，32位或64位精度，而不是第一个小数截断？)
浏览 76提问于2019-11-13得票数 2
回答已采纳
2回答
我有一个数字，格式为( 13 ,2) 13位，小数点2位。我需要对它做一些计算(如乘法，除法)。我计划使用BigDecimal进行计算。我应该使用双倍或浮动计算，因为BigDecimal是在较慢的边位？
浏览 3提问于2016-01-29得票数 1
1回答
有点像整数除法，但在非整数操作数上。我需要为这个操作设计一个硬件模块。我的第一个猜测是使用除法作为移位和减法，当我到达小数部分时停止，但也许你知道更好的方法来找到它。
浏览 2提问于2015-12-13得票数 0
我用这种方法来除小数，我想把这个数字除以100。myNumber)*10000/1000000;//"12.4566990000000002"我想让这个除法保持6位小数，就像这个12.456699，但是现在结果是12.4566990000000002，怎么修改呢？
浏览 13提问于2018-08-23得票数 0
回答已采纳
2回答
我有一个非常奇怪的情况，mariaDB (mysql)插入(或更新)一个不同的十进制值。在下面的示例中，我想插入值'387507.65‘，但在mysql中它被注册为'387507.66’。
浏览 0提问于2018-02-28得票数 0
2回答
我将货币值作为浮动存储在mysql表中。例如。12345.68被四舍五入到12345.7
如何才能阻止这种情况，或者是否应该使用更好的数据类型？我想保留小数点2位内的原始值。
浏览 10提问于2017-01-05得票数 7
回答已采纳
1回答
在c#中，当您执行两个小数的除法时，如果真正的数学结果不能准确地存储为decimal类型，则结果的最后一位将自动四舍五入。我想写一个函数来执行除法，其中最后一位总是四舍五入，即使最后一位右边的数字通常会导致四舍五入。我的函数将声明为MyDivide(十进制a，十进制b)而c#除法运算符将产生
浏览 3提问于2010-12-09得票数 6
回答已采纳
4回答
如何生成随机数，以提供正确的除法结果(即，结果应该恰好舍入到小数点后的1到2位)。(例如，一个整数加上一个提供小数结果的小数-我已经在下面给出了一组样本输入)1747 by 0.8 = 2183.75
425 by 0.4 = 1062.5
浏览 0提问于2011-05-13得票数 5
回答已采纳
3回答
我用的是：
(有时有30多个小数)
谢谢!编辑:a和b是数千(约100,000)个数字，然后被提高到2和3的幂，相加和除法(根据一个复杂的公式)。因此，我插入各种a和b值，看看答案。我只保留使答案成为整数的a和b值。其中一个答案的例子是: 218624，上面我的程序认为它
浏览 7提问于2013-10-26得票数 2
我正在尝试让一些百分比打印到小数点后4位。print(f'{results[i][0]}: {percentage_votes} ({results[i][1]})') #print result
当它打印时，它返回的不是除法的小数位，而是4位小数中的全零。
浏览 0提问于2020-09-22得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
