1回答
如何提高复矩阵乘法结果的精度。它大约在小数点4位，这是结果的一个例子(35.9682，-150.246)，但是我想要至少小数点8位的精度。谢谢
浏览 2提问于2015-04-12得票数 1
回答已采纳
2回答
有人能帮我弄清楚为什么我的两个小数点不适用于.toFixed(2)吗？我对jquery很陌生，如果能提供任何帮助，我将不胜感激。当我乘以.0625时，我现在得到了两个以上的小数位。
浏览 1提问于2014-11-21得票数 0
回答已采纳
1回答
我想把一个数字限制在小数点后几位。例如: 0.973451到4位小数将是0.9374。注意:我想要限制的数字是numpy数组类型的Float64
我正在对小数点后有许多位的数字执行运算。当我执行乘法或指数之类的数学运算时，它显示“溢出错误”。
浏览 16提问于2019-07-10得票数 1
回答已采纳
我的代码是：我试图将两个双小数点转换成字符串，然后再将它们转换回双小数点。我这样做是因为x有一个带有小数点的值，乘法会改变它的value.It编译，但是在执行时抛出一个数字格式的异常。
浏览 0提问于2014-08-08得票数 0
回答已采纳
2回答
汇编语言高级计算器
、、、
我能从YouTube视频中学到的是一位数的乘法或除法。Input1 : 123计算= Input1 x Input1 / Input2任何人都可以提供示例将是很好的
浏览 0提问于2020-12-03得票数 1
3回答
我正在做目标c中的两个数值的乘法，这看起来很简单，是的，但是乘法后得到的结果是不正确的，小数点后的最后一个数字正在改变这个值。我以前做乘法的代码如下所示。
浏览 6提问于2017-02-24得票数 1
回答已采纳
2回答
我有一个数字，格式为( 13 ,2) 13位，小数点2位。我需要对它做一些计算(如乘法，除法)。我计划使用BigDecimal进行计算。
浏览 3提问于2016-01-29得票数 1
2回答
我有一个数据库列定义为amount decimal (19, 9)。现在，当我试图将它保存到数据库时，我会得到一个错误。
78654323 * 1000 = 78654323000我应该在这个范围的textbox上添加什么验证/数据注释？
浏览 3提问于2016-05-24得票数 0
1回答
当我们做2的补数乘法时，我很难理解为什么我们放弃MSB。101 -> 111101 011 -> 000011
正如我们所看到的，这个结果是错误的。我知道MSB是一种特殊的，我在学校里使用过的规则不可能100%适用于2的补语，但
浏览 0提问于2016-11-29得票数 1
回答已采纳
public class FoodItem {
private int calories; private int caloriesFromFat;
name = n; fatGrams = fat; name = n;
public void setCa
浏览 2提问于2015-12-05得票数 0
回答已采纳
1回答
我不确定如何创建使用十进制精度的开关语句，因为开关语句与双日期类型不兼容。 { ++gradeCounter; // increment number of grades
switch (grade / 1)
浏览 2提问于2015-10-18得票数 2
回答已采纳
使用乘法和除法，我还可以添加许多三角函数和指数/对数函数。我认为我可以处理乘法，因为我的库有一个倒数函数，我可以用它来实现除法：a * (1/b) = a / b。但是32位乘法不起作用，因为它忽略了小数点。
我在一个16位的微控制器上工作，所以我想避免超过32位乘法的任何事情，这在我的处理器上需要大约4个周期。不过这并不重要，我只是在尝试替换浮点数学。
浏览 0提问于2011-01-23得票数 0
回答已采纳
2回答
小数点与小数乘法
、、、
因此，当用户输入一个像4750这样的4位数字时，程序必须将这两个小数位转换为$47.50。这将存储在cost_in_cents中。这是我到目前为止的代码，这只是计算。消息已经打印在一个不同的函数，我只需要帮助编码与十进制数字的计算。 Percent=20 Limit=DO_NOT_CHANGE # $num_guests * $BUDGET_PER_PERSON
Cost=DO_NOT_CHANGE
浏览 0提问于2017-03-15得票数 0
5回答
我在C#的基本乘法和除法方面有困难。我猜想这是因为(150/336)是一个小数，而C#将其舍入为0。考虑到小数点的所有位置，我如何正确地计算这个值？
浏览 2提问于2013-08-14得票数 1
回答已采纳
我是一个编程初学者，试图学习Python。我试图完成以下练习：
hours = input("Enter number of hours worked\n")print(hours * rate)TypeError: can't multiply sequence by non-int of type 'str'
我如何告诉Python，输入的结果应该被看作
浏览 3提问于2017-02-25得票数 0
1回答
正确答案: 3716我的答案是0016 (我通过将0835小时转换为小数点2101,005 93转换为小数点93)得到它。mov ax, 0084imul bl我非常感谢你的帮助。马丁
浏览 5提问于2015-10-14得票数 1
Javascript和RegEx，我可以从这样的东西开始....and最后只有数学运算符(x和*都允许乘法)、美元符号、小数点、空格和数字……理想情况下，将有两个层次的嵌套最大；但如果这是不可能的，一个级别也将是有用的。
浏览 4提问于2022-06-08得票数 0
回答已采纳
2回答
(这是一个练习)，我正在尝试创建一个程序，它需要双倍，比如1.2041，并将每个小数点变成数组中的一个元素。我试着用乘法和减法，但我似乎无法使它起作用。
谁知道一个简单的方法，使每个小数点在一个双，成为他们自己的单独的元素在一个数组？
浏览 4提问于2014-11-30得票数 0
回答已采纳
我需要在Java中以完美的精度和小数点后固定数量的小数点表示一些数字；在小数点之后，我并不关心。(更具体地说--金钱和百分比。)现在，我想我不是第一个有这种问题的人，而且已经有了一个库，已经实现了乘法/除法--但似乎不是。
现在，我很可能会自己写它(我可能会写)，但说真的，我真的是第一个需要它的人吗？不是已经有相应的库了吗？
浏览 64提问于2012-08-12得票数 6
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
