在Fortran 90中(在Mac OS X上使用gfortran )，如果我将一个值赋给一个双精度变量，而没有显式地附加一个种类，精度就不会“接受”。我的意思是，如果我运行以下程序：integer, parameter:: dp = kind(1.0d0)
real(dp) :: b = 0., c = 0., d = 0.0_dp, e
浏览 0提问于2011-05-27得票数 9
回答已采纳
1回答
我试图调用一个存储过程，发送一个名为rate的小数点作为它的参数之一，但是它在执行查询时失去了十进制精度。当我打开SQL分析器时，会给我：正如您所看到的，精度是decimal(28,5)，但是在存储过程中，所需的精度是decimal(19,10)，发
浏览 6提问于2014-12-19得票数 1
回答已采纳
我有一个像下面这样的文件，我想使用powershell删除文件中每一行中第一个"<“之后的所有内容"10.0.0.2“、"pc2”、“2008 SP2 <100%-精度> Microsof
浏览 3提问于2015-03-03得票数 1
回答已采纳
培训的目标是尽量减少批处理日志丢失。当我测试模型时，也会使用批处理。为了提高精度和准确度，我可以使用tf.metrics.auc和tf.matrics.accuracy来获得运行精度和运行精度。但是，如何获得测试数据的日志丢失？
浏览 0提问于2018-05-15得票数 0
回答已采纳
1回答
我的postgres数据库模式的表中有一个数值列，它的精度为n。所以m < n。TABLE my_tableTYPE numeric(m, 2)我理解这是因为我在表中存储的值的精度大于m (我希望新精度达到的值)。有没有什么方法可以告诉postgres更改精度并忽略丢失的精度？例如。如果n= 20和m= 15
浏览 12提问于2020-03-07得票数 1
2回答
double answer = a/b; std::cout << std::to_string(answer);浮点型或双精度型: 0.666667；编辑:不能因为使用to_string而丢失精度；
浏览 1提问于2020-07-14得票数 0
我们正在C中开发一个数值例程库，我们还不确定我们将使用单精度(float)还是双精度(double)，因此在决定之前，我们已经将类型SP定义为别名：当我们运行单元测试时使用Git的bisect命令，我们找到了开始在他的机器和我的机器之间产生不同结果的确切差异：+typedef float SP;恐怕我还不够清
浏览 1提问于2011-10-21得票数 7
回答已采纳
当从数据模拟中导出CSV文件时，我们丢失了与记录的数据关联的小数位，从而使我们的曲线图和值不准确。import scipy as spDecayCount = []
with open('Half_Life_Run_Decay.
浏览 0提问于2016-06-11得票数 0
3回答
有一些很好的文档描述了浮点数字的性质，以及为什么在某些浮点操作中必须丢失精度。例如：：人们可以用什么一般的经验法则来知道什么时候精度会丢失，什么时候会保持？
浏览 7提问于2014-07-14得票数 2
回答已采纳
我想把它保存为精度较低的东西，比如单位或16位浮点数。 sp.io.savemat('test.mat', {'test': sp.array([0.001, 1, 1.004], dtype='Float16')})
浏览 3提问于2014-04-27得票数 3
回答已采纳
2回答
双精度丢失
、、、
因此，数据是以字符串的形式从文本字段中收集的，然后转换为双精度并持久化。answer;如果使用6532.002作为数据，它将失去其精度
浏览 1提问于2013-03-05得票数 1
2回答
我有一个方法，我想返回一个双精度的8 dp。所以我有一个从sp返回的值，在代码中我简单地做了但是，如果sp返回:1541338.2349537，则返回的双精度值只有7dp，而我希望它将尾随零放在上面。1541338.23495370谢谢
nat
浏览 0提问于2011-02-03得票数 1
回答已采纳
564214623154我们将这个c=a*b相乘，它应该是30609771735350808，但当编译它时，它显示3.0609771735351E+16，所以据我所知，它应该会失去一些精度，但当我用c除以c/a时，我得到了564214623154的准确结果，而没有任何精度损失c = 30609771735350808 那么，只有
浏览 1提问于2011-07-13得票数 2
回答已采纳
我想要实现一个子例程，它可以在单精度、双精度和扩展精度中与reals一起工作。我能找到的唯一解决方案如下面的代码所示。这个解决方案可以工作，但我必须重复代码3次。这样的代码复制可以避免吗？some code here
module procedure my_func_sp module procedure my_func_ep
con
浏览 1提问于2014-03-31得票数 3
回答已采纳
= REAL32 Integer, parameter :: qp = REAL128
Real(qp),parameter:: Some_Value_2 = 4.56
我的IDE: CodeBlocks 16.0
浏览 7提问于2017-12-17得票数 3
回答已采纳
1回答
我正在开发一个日期解析器。 const isDate = (d: Date) => !isNaN(d.getDate()); Object.prototype.toString.call(data) === '[object Date]' && ) else if (typeof data === 'string') {
浏览 2提问于2020-01-13得票数 0
回答已采纳
2回答
如果我执行以下操作由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？
浏览 4提问于2012-02-09得票数 5
回答已采纳
在Oracle pro*c中，有没有办法将双精度值转换为字符串而不丢失任何数字？精度随从中获取值的列的数字(10，8)而变化
浏览 0提问于2021-07-16得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
实时音视频活动推荐
腾讯云开发者
