2回答
如果我执行以下操作由于0是使用32位的整数字面量，而d是使用64位的双精度变量，那么剩余的32位是否会被随机垃圾填充，或者Java是否正确地提升了字面量？
浏览 4提问于2012-02-09得票数 5
回答已采纳
first_item = int(float(input("Price of 1st item: ")))
second_item = int(float(input("Price of 2nd item
浏览 22提问于2019-09-11得票数 0
5回答
到目前为止，我的函数如下： long unixTime = System.currentTimeMillis它给我的错误是“无法从双精度转换为浮点型”的onerm
浏览 2提问于2013-01-25得票数 14
回答已采纳
因此，我将我的int制服转换为float。然后使用除法和mod来提取每个字节。
但是，由于精度问题，如果我的int太大，将int转换为float会丢失一些精度。有没有什么优雅的解决方案来解决这个问题呢？目前我的想法是在我的4字节int中只存储3个字节。
浏览 16提问于2017-06-30得票数 0
回答已采纳
2回答
以下内容之间是否存在精度差异(假设a和b的值可以在浮点数中不丢失精度地表示)。用浮标：float b;双打：double b;
double result = 1 + a*b;
浏览 5提问于2016-08-22得票数 6
回答已采纳
long l = 123456789L;System.out.println(f); // outputs 1.23456792E8
鉴于long比float具有更大的位深度
浏览 5提问于2009-08-18得票数 45
回答已采纳
而且，按照和其他编程语言，看起来5726718050568503296值可以精确地表示，而不会失去精度。为什么它在JS中丢失了3位重要数字(转载在最新稳定的google chrome和firefox中)
这个问题最初是从触发的。该值在双IEEE754中绝对是可表示的，查看Go：中裸位是如何转换为float64的。
浏览 5提问于2021-04-22得票数 9
回答已采纳
在20个字符串转换JS新数字方法时，我遇到了一个问题。parseInt(x5);
22222222222222220000我本来希望得到与变量相同的值，但在数字格式下，但我不知道这里有什么问题
浏览 5提问于2017-09-12得票数 0
回答已采纳
5回答
我收到了一个关于数据丢失的良性警告
我记得好像浮子的精度比int大。那么，如果我将较小的数据类型(int)转换为更大的数据类型(浮点)，那么如何丢失数据？
浏览 7提问于2010-04-17得票数 9
回答已采纳
在Golang中，当float64变量首先转换为float32，然后转换为float64时，它的值似乎会发生变化。a := -8888.95fmt.Println(float32(a)) // -8888.95fmt.Println(float64(float32(a))) // -8888.9501953125
浏览 3提问于2021-04-18得票数 0
4回答
在C++中，我可以在不损失精度的情况下以文本格式写入和读回浮点数(或双精度)吗？请考虑以下几点：{ // Set some flags on fout } { fin >> f;
浏览 4提问于2011-09-07得票数 8
回答已采纳
float fv = orginal_value; // original_value may be any float valuedouble dv = (double)fv;fv= (float)dv;
fv应该恰好等于original_value吗？可能会丢失任何精度？
浏览 0提问于2016-04-25得票数 11
回答已采纳
我在下面的函数bson_append_double中遇到了问题：bson_append_double(pbson, field_name, -1,(double)dvalue);
但是我得到的结果是令人恼火的: 0.0099999997764825820923以前有人遇到过这个问题吗，请帮助我。
浏览 3提问于2017-05-29得票数 1
除非尝试一个高精度的数字超过9个小数点。关键字:根据文档，像"ShapeSTArea": 20263.3349609375这样的值不会存储为NUMERIC，但也不会以STRING的形式存储。由于明显的原因，我不能使用低精度的FLOAT64。Field:所以我有两个问题：
为什么像STRINGHow这样的值不能作为存储？
浏览 10提问于2021-11-05得票数 0
当我这样做时，例如，(/ 1.07.0)，我只得到17个数字: 0.14285714285714285。我怎么才能得到更多呢？
浏览 2提问于2011-08-18得票数 11
回答已采纳
1回答
十进制变量失去精度。然而，如果我只选择方程，精度是完好无损的。如何在不丢失精度的情况下设置十进制变量？SQL
SELECT @_oDiscount AS DecimalVariable, CAST(9.99 AS decimal(10,2)) * CAST(.5 AS float) AS
浏览 2提问于2013-12-24得票数 0
回答已采纳
4回答
#include <stdio.h>
int x = 2147483647; printf("%f\n", (float)x);}2147483648.000000我的问题是:为什么两条线是不同的？编辑：值"2147483647.000000“不能是一个单精度浮
浏览 4提问于2014-11-24得票数 22
回答已采纳
我有一张名叫Product的桌子。这张桌子是这样的：1 xyz 4654.000000000000000我想用科学的符号来表示Volume。Volume的数据类型为decimal(20,8)。
浏览 2提问于2015-07-11得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频活动推荐
腾讯云开发者
