1回答
在MySQL (5.7)中，JSON数据列中的浮点值是如何舍入的？
我很难找到一个好的资源来知道如何解决我的问题。
浏览 11提问于2018-03-06得票数 0
1回答
下面是一个示例(当我在定义中使用浮点值时，在数据库中它们被定义为数字，精度为2)，这是输出的样子通常情况下，通过查看这些值，我希望两个值的差值都是16，但事实并非如此。有什么建议是我可能会错过的吗？
浏览 1提问于2013-04-05得票数 1
在我的应用程序中，我正在做一些客户端数学运算，它经常由于浮点错误而出错。要简化问题：还有其他更复杂的例子，但我的问题是：
解决潜在浮点错误的适当方法是什么？
浏览 2提问于2014-02-28得票数 1
我有一个非常恼人的问题，在Java中使用长的浮点数或双精度浮点数。System.out.println( value );0.00.20.40.60.8000001我知道浮点精度误差是有累积的有什么想法吗？
浏览 4提问于2011-03-10得票数 33
回答已采纳
我尝试用Scipy和EXCEL来计算贝塞尔函数，但他们给出的结果不同。你知道为什么吗？提前谢谢。import scipy.special as ss
print(result)=BESSELK(0,2155481626213; 1)来自Excel的结果是4,405746474969860。
浏览 5提问于2021-01-06得票数 0
1回答
我做了一个排列和组合计算器。查找数字阶乘的代码是： total=1; return total; else{ total*=i; return total;} answer.innerHTML="Answer: "+factorial(n)/factorial(n-r);
如果我做了55P9，我的答案是.5 off。如果我使用Math.floor()，一切都会正常
浏览 1提问于2016-05-21得票数 0
回答已采纳
我老师的问题是:写下可能发生舍入误差的作业。这是用Java编写的。long l;d = l;
这就是答案，但为什么呢？float的值和最大值较高，float是一个浮点数。相比之下，long只是完整的数字，那么为什么会有舍入误差呢？
浏览 2提问于2013-02-27得票数 0
回答已采纳
我想在Java语言中使用Math.ulp(double)方法计算一系列加法、乘法和除法的浮点舍入误差。根据最后一位单元的维基页面，似乎一个浮点计算的误差，例如2+3或2*3将分别是0.5*ulp( 2+3 )或0.5*ulp( 2*3 )，其中2*3和2+3是浮点计算。rref.matrixArray[i][j] = (int)(rref.getVal(i, j) + 0.5); }}
代码的最后部分，将小于计算误差
浏览 3提问于2015-12-26得票数 0
1回答
为什么这段代码会给出不准确的结果？System.out.println(a);System.out.println(b);0.8999999999999999
浏览 3提问于2014-11-09得票数 0
回答已采纳
有没有什么方法可以写代码来避免错误累积，或者有什么方法可以增加numpy存储的小数位数，从而使具有100+区域的系统可以忽略错误。
浏览 4提问于2012-01-26得票数 3
回答已采纳
1回答
不稳定希尔伯特矩阵单位向量
、、、、
设H(n)是n阶的希尔伯特矩阵。让e_im := H(n) * e来吧。设r = (r_1,...,r_n)是一个小的随机向量。我使用了一些计算机代数系统来解决H(n) * x_2 = (e + r)_im问题。我使用numpy和scipy.linalg
浏览 0提问于2015-11-09得票数 1
我目前正在使用c++的股票市场相关的项目，涉及许多浮点类型，如价格和指数。
我看过很多书，说你应该在货币相关的算术中使用十进制浮点数。据我所知，浮点数和小数浮点数的区别在于指数部分的基数是什么，浮点数使用2作为基数，小数浮点数使用10。当使用小数浮点数时，您仍然会有舍入误差，您仍然不能表达1/3(如果我错了，请纠正我)，我猜很有可能将某人的账户余额乘以30%，然后发生舍入误差，经过几次计算，舍入误差可能会传
浏览 2提问于2014-11-06得票数 4
1回答
共享多处理数组中的精度损失？
、、、、
我正在试验多进程数组类型，以便在进程之间共享一个可写对象。我已经阅读了许多关于这样做的警告，但我相信在我的应用程序中，由于物理内存的限制，它是必要的。import numpy as npfrom multiprocessing import Pool, Array
n
浏览 17提问于2018-07-28得票数 0
我试着为scjp训练。 System.out.println(0.8==0.1+0.1+0.1+0.1+0.1+0.1+0.1+0.1);//false输出：falseabs(a1-a2)<epsilon对scjp来说，类似的问题是否有效？
浏览 0提问于2014-01-26得票数 0
2回答
我正在测试一些代码，一个涉及使用浮点值的计算的数字-通常是非常大的浮点值。我有一些通用的(C++模板化的，但对于这个问题来说这并不重要)代码，它将我的输出与它们的期望值进行比较，无论是标量还是数组。我面临着为我正在测试的各种函数选择精度阈值的问题，至少对于两种C/C++浮点类型float和double是如此。就像一样，对于比较浮点值，也没有万能的方法，也没有完全基于数据类型来拟合和计算的单一精确值:相对误差和绝对误差，可能会放大浮点舍入<em
浏览 2提问于2016-05-06得票数 1
2回答
有没有人能解释/理解单线程/多线程模式下计算结果的差异？#include <iomanip>#include <ppl.h>
{ start = clock(
浏览 1提问于2014-12-29得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
