我是在Redshift中创建一个表(基于PostgreSQL)，该表的源数据中有几列是整数和小数的混合。如果我设置小数(5，5)，它会抛出整数的误差，如果我设置整数，它会抛出小数的误差，哪种类型适合这两种类型？
浏览 2提问于2019-04-17得票数 0
回答已采纳
要在.NET中表示小数，SQL中的最佳数据类型是什么？我们希望将这一点带到数据库中，并希望在通过层移动数据时最大限度地减少转换问题。
浏览 2提问于2008-10-23得票数 16
Note：这个问题与有关求矩阵逆的结果似乎是一致的，但A*A^-1似乎相距甚远。>> a = [1 2 3; 4 5 6; 7 8 10]
4 5 6>> inv(a)
-0.6667 3.6667 -2.0000
1.0000 -
浏览 0提问于2016-11-17得票数 1
回答已采纳
据我所知，浮点数和小数浮点数的区别在于指数部分的基数是什么，浮点数使用2作为基数，小数浮点数使用10。当使用小数浮点数时，您仍然会有舍入误差，您仍然不能表达1/3(如果我错了，请纠正我)，我猜很有可能将某人的账户余额乘以30%，然后发生舍入误差，经过几次计算，舍入误差可能会传播得更严重。除了更大的数字范围之外，为什么我要在金融算术中使用小数浮点数？
浏览 2提问于2014-11-06得票数 4
如果我有一个像n = 0.783325849821429这样的数字，有没有办法显示更多的小数位？这是用format long生成的。问题是，我正在用正弦进行误差估计计算，有一个点，估计非常接近正弦的实际值，以至于MATLAB将误差计算为0，即使估计不可能是完全准确的。总会有误差，只是误差太小，MATLAB无法识别。有没有办法让MATLAB考虑更多的小数位？
浏览 0提问于2013-02-19得票数 3
1回答
我不知道如何让Python在执行重复正弦运算时像我的计算器一样工作。number = float(.565) number = round(math.sin(number*pi), 16)当我用我的计算器做同样的运算时，我得到0.4464454868。我也尝试过使用Decimal库，但没有得到更好的结果。有什么想法吗？
浏览 1提问于2014-02-16得票数 2
1回答
我试图使变量"z“在0和2的两个范围内连续波动0.1。当它达到最大值2时，我希望变量"z“递减。当它达到最小值0时，我希望变量"z“递增。到目前为止，我的代码所做的就是返回数字1。 注意:我也在使用github.com/mattdesl在canvas-sketch上做这个 let z = 1; if(z == 2) count *= -1; return z += count;
console.log
浏览 19提问于2021-11-03得票数 0
回答已采纳
1回答
我知道小数的设计是为了最小化由于四舍五入而产生的误差，但我也知道某些数字，例如1/3，不能表示为小数，因此一些计算将有很小的舍入误差。我相信这个错误的程度将是非常小和微不足道的，但一位同事不同意。因此，我希望能够估计由于我们的应用程序中的舍入而产生的误差的数量级。例如，我们正在计算“交易”的运行总数，每天将进行大约10,000个“交易”，并且大约有5-10次小数运算(加、减、分、乘等)。要计算收到的每笔交易的新运行总额，舍入误差的最大值的顺序是什么？一个带有计
浏览 0提问于2010-07-02得票数 3
回答已采纳
所以，我在这里的理解是，小数点占用更多的空间，但提供了一个更短的范围？这在我的头脑中没有多大意义，因为每个人都同意，当需要精确时，应该使用十进制。
浏览 1提问于2018-11-01得票数 6
回答已采纳
1回答
我的数学：double result = ((v * i) * CosAngle);我得到"6.12303176911189E-17“的CosAngle，似乎没有考虑到这个数字是0.0000000000000612303176911189！
浏览 0提问于2015-01-19得票数 0
回答已采纳
snprintf(buf, sizeof(buf), "%.17g", .1);0.10000000000000001有没有办法解决这个问题？
浏览 2提问于2015-11-15得票数 0
所以我有一个excel表格，如下所示：(我已经取出了所有不相关的信息)Column D是一个已拖至所有单元格的公式(更改行号)：如果你看到单元格D6，你会注意到它有一些错误。我已经包含了两个例子。表的下半部分使用相同的公式正常工作。第一部分没有工作，我假设是因为0.985，它似乎只有在0.9时才会发生，但在1时才会发生。
浏览 1提问于2013-02-13得票数 0
回答已采纳
我一直试图导入xml来统计，这是很好的工作，但当舍入时，我会遇到问题，如凭证，总不匹配。而不是102.98 -> 103.00这样的四舍五入。它会引起问题，如果有任何数量，如102.38，那么我需要它是102.00，这是我得到的错误。在这里，第一张凭单工作正常，第二张则警告错误，如
ERROR: Voucher: ID:<>, Voucher Type: Purchase, Source Voucher N
浏览 2提问于2022-05-20得票数 0
回答已采纳
在Pl/Sql中，我使用查询字符串 SUM (holding_balance) AS totalGROUP BY company
0-9173992.75458448.13-271021.25-0.01-191459114.33191459114.3300-1904735.13357596.25-124435850.66
1447
浏览 0提问于2013-12-17得票数 0
1回答
我的JavaScript (ExtJs 4.1.0)代码是：它将3乘以0.048，结果是0.14400000000000002而不是0.144。
浏览 0提问于2012-09-10得票数 0
回答已采纳
1回答
我不明白为什么小数可以代表像0.1这样的数字，而浮点数不能。我已经读了很多关于这方面的文章和问题，例如这个：
上面链接中的答案指出浮点数是基数2，小数数是基数10。我相信这与此有关。
浏览 0提问于2016-09-05得票数 0
我有一些游戏破坏问题与一个简单的游戏，类似于蛇。
正如你所看到的，与self的碰撞有时会起作用，但它是不可靠的。我已经尝试了我能想到的所有方法来解决这个问题。from random import randint
WIDTH, HEIGHT = 400, 400points = 0def
浏览 0提问于2017-09-19得票数 0
在代码和数据库中，所有数字都表示为小数，没有舍入误差。然而，我有一些性能问题，我正在考虑在我自己的计算中切换到浮点数(浮点/双精度)。这是基于四舍五入误差不是问题的假设(我必须与客户核实)。有没有一种表达式，当使用浮点数计算时，可能与使用小数计算的相同表达式有显着不同？
浏览 0提问于2009-11-10得票数 1
我有一个数据类型为float8的表结构。我将插入来自另一个系统的数据，该系统具有不同的decimal数据类型(Decimal (21,7)，decimal(16,7))等。这会导致插入时出现任何问题吗？我想知道float8可以容纳的最大值是多少。
浏览 3提问于2019-10-02得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
