1回答
:pass
print(area(12, 5)) 我收到错误消息： type complex doesn't define __round__ method 如何求解我正在计算面积，最多会有两个小数点后，我还想求出矩形的面积，当矩形有一条对角线和一条边的时候。如果输入对角线小于或等于边长，则返回"Not a rectangle“。如果生成的面积有小数点围绕它到两位。 请告诉我如何从输出中删除none。
浏览 23提问于2020-04-01得票数 0
回答已采纳
我遇到了(我怀疑是)舍入误差的问题。下面是我的相关代码：int exponent = Integer.
浏览 0提问于2012-07-04得票数 1
回答已采纳
我已经并行化了一个简单的计算函数积分的简单代码。我把它和函数y=2*sqrt(1-x^2)从-1到1一起使用，这个积分等于Pi。}
现在，当我并行化这段代码(例如，只使用for循环构造#pragma omp parallel for private(x) reduction(+:sum))时，对于大尺
浏览 0提问于2017-05-19得票数 0
回答已采纳
如果我想要“更精确”的计算并避免舍入误差，使用前者是不是更好？使用这两种方法背后的启发式是什么？
浏览 1提问于2012-09-20得票数 14
回答已采纳
1回答
我惊讶地发现.NET中的System.Numerics.Complex数据类型并不能产生精确的数学结果。我得到的不是(0，1)，而是(6.12303176911189E-17，1)，这看起来很像是一个舍入误差。现在我意识到浮点运算有时会产生这样的结果，但通常使用整数可以避免舍入误差。
为什么这个看似基本的操作会产生一个明显错误
浏览 0提问于2012-10-10得票数 8
回答已采纳
2回答
我有一个关于一些SQL值的问题& PHP。我正在做两个请求，一个是在我的sql中添加一个值，另一个是减去这个结果。+ ($nbre_dej * $prix_dejeuner) + ($nbre_din * $prix_diner) + ($nbre_soir_etape * $prix_etape);sum = 0 + (15.8*1) + (15.8*1) + (57.8*0)但是当我尝试这样做的时候：
$totaux = $montant_actuel -
浏览 0提问于2013-06-24得票数 0
回答已采纳
1回答
考虑到中所有舍入错误的复杂性，是否认为：这就是说，如果用户分别输入A和B的10和20，我是否可以用A= .33333333和B= .66666666存储之和总数(30)，然后再乘以这些小数，得到10的值(没有舍入误差)？
浏览 1提问于2014-11-05得票数 1
3回答
我正在尝试为正整数写一个基本的数字计数器(输入一个整数，输出该整数的位数)。这是我的通用公式：我尝试在Ruby语言中实现dig(x)的等价物，发现当我计算dig(1000)时，我得到的是2而不是3，因为Math.log返回的是2.9999999999999996，然后它会被截断为2。(我假设无论使用哪种语言来实现此方法，都会出现此问题，但如果不是这样，请在您的答案中解释)。
浏览 5提问于2013-12-30得票数 0
1回答
我甚至开始在SCSS中开发自己的，每个断点都有可变的%边距(这样手机就不会被压扁)。
到目前为止，我所学到的东西让我对网格有了一个相当复杂的看法。固定的网格似乎是反响应的，流体网格可能会受到舍入误差的影响，而那些看起来不太复杂的网格可能会受到影响。理论上我喜欢网格，但实际上它们并没有完全说服我。然而，我刚刚创建了一个流畅的CSS网格，通过使用填充和边框代替边框来代
浏览 0提问于2013-05-31得票数 0
回答已采纳
要在.NET中表示小数，SQL中的最佳数据类型是什么？我们希望将这一点带到数据库中，并希望在通过层移动数据时最大限度地减少转换问题。
浏览 2提问于2008-10-23得票数 16
2回答
如何使用php正确格式化以下操作结果$procent = 7;
然后我想转换成德国标准，我试着使用下面的方法但此函数返回的预期结果应为38,17
浏览 1提问于2013-05-23得票数 2
回答已采纳
我想改变求和立方体的方式，以避免舍入误差。我的计算就是A列/B列我如何在我的计算中或改变求和的工作方式中做到这一点？
浏览 7提问于2012-02-10得票数 0
4回答
我正在尝试使用一些UI按钮将位置移动0.1或-0.1来影响3D模型的平移。
我的模型位置是一个三维浮点数，所以简单地将0.1f添加到其中一个值会导致明显的舍入误差。虽然我可以使用像BigDecimal这样的东西来保持精度，但我仍然必须将它从浮点型转换为浮点型，并且它总是导致愚蠢的数字，这使得我的UI看起来一团糟。我可以只美化显示的值，但随着编辑次数的增加，舍入误差只会变得更糟，而且
浏览 2提问于2013-04-22得票数 4
回答已采纳
1回答
我正在尝试分析如何使用reduction (并行)来添加大量浮点数以及其中涉及的精度损失。与串行加法相比，减法无疑有助于获得更高的精度。如果您能为我提供一些详细的来源或对此分析提供一些见解，我将不胜感激。谢谢。
浏览 0提问于2014-03-04得票数 2
1回答
这组方程可以没有解，也可以是一组解中的一个解。我的第一个想法是一个接一个地求解这些方程，然后用结果来求解其他方程。问题是舍入误差:如果，在理论上，我有两个方程x = 5 - yx + y = 4.999999系统突然没有解决方案。在下一步中，我可以添加epsilon来补偿舍入误差，但我不确定它
浏览 15提问于2017-03-15得票数 0
1回答
为了避免在使用以十为基数浮点数时的舍入误差(例如参见)，IEEE-754规范定义了十进制算术。有没有办法在C或C++中使用这种十进制运算？
浏览 1提问于2013-07-07得票数 5
1回答
我使用这个代码来精确地尝试使用颜色的RGB代码：
var huePixel = HueCanvas.css('background-color').match(/^rgb\((\d+),\s*(\d+)如果我使用Math.round而不是parseInt，会有更多的问题，并且更多的像素比真实的像素有很小的变化。我知道问题出在var opacity =(svPixel[3]/255);上，但我不知道如何把这个等式放在没有那个问题的地
浏览 0提问于2010-10-20得票数 2
这就是我正在做的，99.999%的时间是有效的：金额值是一个双精度数。我正在尝试将以便士为单位的值写出到文本文件中，以便传输到服务器进行处理。金额不能超过精度的2位数。
如果使用580.55作为金额，则此行代码将返回58054作为字符串值。
浏览 0提问于2010-07-08得票数 7
回答已采纳
2回答
浮点与舍入误差的避免
、、、
众所周知，浮点数的使用者必须注意舍入误差。例如，在几乎所有现代编程语言中，1.0/3*3 == 1的计算结果都为false。对于非专家来说，更令人惊讶的是，1.0/10*10 == 1也是如此。特别是，我在Apple和准将Vic-20的仿真器中尝试了上述两种测试，每个表达式在每种情况下都被计算为true。这是违反直觉的:非常原始的系统似乎比更先进的系统工作得更好。在上述测试中，旧的浮点系统是<em
浏览 7提问于2017-01-29得票数 1
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
