2回答
Am使用以下功能： rounded_abs = round_half_up(abs(n), decimals) multiplier = 10 ** decimals
def round_half_down(n, deci
浏览 1提问于2019-11-08得票数 0
回答已采纳
1回答
当我们做2的补数乘法时，我很难理解为什么我们放弃MSB。101 -> 111101 011 -> 000011
正如我们所看到的，这个结果是错误的。10110111 ->
浏览 0提问于2016-11-29得票数 1
回答已采纳
25,13))*cast(15 as decimal(25,13)) as decimal(25,13))/cast(11 as decimal(25,13)) = 9.5454545454545 所以乘法和除法会产生13个小数，但是当链接起来时，它们会突然产生6个小数。只有当乘法首先转换为decimal(25, 13 )，然后再除法时，它才会再次产生13个小数。SQL Server是否将乘法转换为默认小数(38，0)，然后将其除以小数(25
浏览 43提问于2020-06-17得票数 0
回答已采纳
4回答
我尝试用python和excel对两个数字进行四舍五入后的乘法比较。我使用openpyxl lib。
round(3335164.9349999996，2) -> 3335164.93但它也不起作用
我为圆形添加了额外的图层，但也不起作用
如何在excel中使用python
浏览 5提问于2021-10-22得票数 0
2回答
我至少需要3位小数才能解决我的问题。 最后一列应该给出输出as array([0.4363, 0.4014, 0.9599, 1.3614, 0.8203])。问题是python不会将小数保存在内存中，所以即使我乘法，它也总是给0。 python能做到这一点吗？ 任何想法。
浏览 13提问于2020-08-30得票数 0
回答已采纳
1回答
如何提高复矩阵乘法结果的精度。它大约在小数点4位，这是结果的一个例子(35.9682，-150.246)，但是我想要至少小数点8位的精度。谢谢
浏览 2提问于2015-04-12得票数 1
回答已采纳
5回答
我是C#的新手，现在在数学方面有个问题。为什么我不能像这样仔细考虑或划分“简单”： decimal mLat1 = 0; decimal mRadius = 100; mLat1 = mLat - (mRadius / mFaktor);
运算符“*”不能应用于
浏览 2提问于2014-03-27得票数 5
回答已采纳
3回答
PHP乘法小数
、、
我在乘以小数时有一个奇怪的错误。当我将诸如2.1这样的小数位乘以像2这样的数(为了得到产品4.2)时，PHP会同样地显示它们，并通过比较显示它们相等。
浏览 2提问于2014-11-21得票数 1
回答已采纳
如何计算需要为(100% - @SideBarWidth)的15%的DIV的宽度，其中@SideBarWidth是我的侧边栏的宽度？以另一种方式描述我的问题，我希望获得我的页面的内容区域(不包括侧栏区域)的百分比。这可以用CSS或更少的代码来计算吗？@sidebarWidth: 250px;
{ left: @sidebarWidth;}.myDiv position: fix
浏览 0提问于2014-07-01得票数 1
在某些情况下，我需要进行32位小数乘法。我读过其他关于32位逐字节乘法的文章，我明白为什么这适用于Q0.31格式。但我使用不同的Q格式和不同数量的小数位。所以我发现，对于小于16的小数位，这是可行的：其中N是小数位的数量。一般来说，这在任何少于16个小数位的Q格式中都能给出我想要的结果。当小数位数大于16时，这就变得
浏览 3提问于2013-02-06得票数 3
1回答
我想把一个数字限制在小数点后几位。例如: 0.973451到4位小数将是0.9374。注意:我想要限制的数字是numpy数组类型的Float64
我正在对小数点后有许多位的数字执行运算。当我执行乘法或指数之类的数学运算时，它显示“溢出错误”。
浏览 16提问于2019-07-10得票数 1
回答已采纳
2回答
调整浮点数以保持高精度
、、、、
我正在编写一些Python代码，需要非常高的精确度。我开始使用Numpy float64，但没有按照要求工作，然后我开始使用"Decimal“模块，然后它工作得很好。然而，理想情况下，我更喜欢使用浮点数，而不是使用小数模块-我记得有人曾经告诉我，有可能以某种方式操作浮点数，以便达到精度级别(通过乘法或其他方式？)。
这是真的还是我记错了？如果这有点含糊，很抱歉。
浏览 0提问于2013-01-29得票数 0
回答已采纳
2回答
小数点与小数乘法
、、、
因此，当用户输入一个像4750这样的4位数字时，程序必须将这两个小数位转换为$47.50。这将存储在cost_in_cents中。这是我到目前为止的代码，这只是计算。needs to have decimal}
如何将cost_in_cents转换为两位小数
浏览 0提问于2017-03-15得票数 0
1回答
如何计算这个数学表示法？或者如何将其转换为更简单的伪代码？我试图理解这个概念来实现文本可读性分析器。0.1579 ( (difficult words - words) * 100 ) + 0.0496 (words - sentences)
浏览 2提问于2014-09-06得票数 0
回答已采纳
1回答
查询数据时，我注意到了以下行为：-- 0.0100
-- 0.01
我试着在不同的机器上运行它们，但是得到相同的结果:除法产生4小数位，乘法产生2小数位。
浏览 1提问于2020-03-06得票数 2
回答已采纳
当我执行这两行时，我得到了两个不同的结果。-为什么？print(item)产出：0.0006000000284984708如果我试图将numpy.float32转换成浮点，就会得到以下内容：print(item)0.0006000000284984708
浏览 0提问于2019-07-22得票数 0
回答已采纳
我在写一个英镑到美元的转换程序。我遇到了一些将两个数字相乘的问题。convert = pounds * .56谁能告诉我纠正这个程序的代码？
浏览 0提问于2015-02-15得票数 7
2回答
下面的代码应该是格式化我在mysql中运行乘法以获得临时表中的数据后得到的数字。问题是乘法的结果不遵循格式。我希望将数字格式化为有四位小数，并保留零。
<?
浏览 25提问于2018-09-05得票数 0
回答已采纳
我正在学习用于快速整数乘法的，我想知道，既然计算机已经在CPU中内置了专门的硬件来进行乘法，为什么这个算法是必要的？是不是大数字很难相乘，但是算法把它分解成更简单的步骤，更容易被硬件处理，因为硬件擅长乘小数字？
浏览 2提问于2016-02-03得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
