腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
Java中
的
float数据类型精度
、
、
当存储为单精度
浮点数
时,数字0.1
的
值是0.100000001490116119384765625 (来源:https://www.h-schmidt.net/FloatConverter/IEEE754我认为这是因为Java将float中
的
小数
位数
限制
为7位。如何增加显示
的
小数
位数
?
浏览 39
提问于2019-03-12
得票数 5
回答已采纳
3
回答
在红宝石中不舍入
的
浮点数
格式
、
、
有一个
浮点数
num = 22.0098。如何格式化它以
限制
浮点后
的
3
位数
字?我试过sprintf('%.3f',num),但返回是22.010,我需要22.009
浏览 4
提问于2016-01-26
得票数 5
回答已采纳
1
回答
如何将
浮点数
格式化为一定数量
的
小数位和整数位?
我尝试将Ruby中
的
浮点数
格式化为四
位数
,包括小数点。例如:2.4 => 02.40现在,我正在尝试按如下方式格式化
浮点数
:这成功地将小数
位数
限制
为两位我尝试将它们组合成这样:没有明显
的
效果。它具有与%.2f相同
的
浏览 0
提问于2013-07-03
得票数 7
回答已采纳
1
回答
BigDecimal允许使用
的
有效
位数
是多少
、
我
的
应用程序在Java中使用双精度型来表示
浮点数
。double
的
有效
位数
限制
为17位。我们正在考虑重构代码以使用BigDecimal --然而,我在文档中找不到任何关于BigDecimal允许使用
的
有效
位数
的
信息。 任何关于这方面的信息都将是非常有用
的
,提前谢谢!
浏览 1
提问于2016-08-31
得票数 0
1
回答
处理帐户事务和货币时使用浮点型或双精度型
我一直想在我
的
简单代码问题中使用
浮点数
和双精度数中
的
什么。它将在货币方面,用户将能够输入存款金额,并打印出当前
的
余额。数量不会太大(我认为双精度型很好),但更重要
的
是,我希望它显示为两个小数。我目前使用
的
是
浮点数
,但只显示到一个小数点,并且我也不能将两个小数点
的
位数
相加。有没有办法
限制
添加
的
数量,并将其
限制
为只有两个小数位?也许我可以加上一个简单
的
条件。
浏览 0
提问于2013-09-22
得票数 0
2
回答
带
限制
的
浮点数
的
正则表达式
、
我需要正则表达式
的
浮点数
和整数
的
限制
,如它将接受1或2个数字之前
的
点和1或2个数字后
的
点。整数
限制
应为2
位数
字。什么应该是有效
的
: - 11.1 - 11.11 - 22 - 222 Here
浏览 2
提问于2017-07-25
得票数 1
2
回答
如何在java中以小数点1作为浮点值存储浮点值
、
对于(例如),我使用以下代码将
浮点数
限制
为小数点之后
的
1
位数
字,但作为字符串,我再次将其转换为
浮点数
。但是,在转换接收长
浮点数
(value = 2.39725527E11)后,我需要它类似(值= 2.3),并将其存储在一个浮动变量中,作为2.3而不是2.39725527E11。
浏览 3
提问于2015-12-17
得票数 0
回答已采纳
1
回答
是否可以删除数字
的
最大值?
、
我有一个产生素数
的
数学公式。这些数字呈指数增长,在7次迭代中,该值到达inf,然后是nan。 是否有办法消除这些
限制
,还是有一种没有
限制
的
语言?
浏览 3
提问于2016-01-11
得票数 0
回答已采纳
1
回答
Python格式
浮点数
到固定
的
总宽度
、
、
如何格式化
浮点数
,使其始终具有相同
的
总数数字?例如,5
位数
字:1.2会变成1.2000我已经找到了
限制
精度、填充零等
的
解决方案,但是没有给整个数字(不仅仅是左侧或右侧)一个固定
的
宽度。
浏览 5
提问于2020-06-23
得票数 0
回答已采纳
1
回答
Javascript对大
浮点数
的
小数位有
限制
吗?
、
、
小数
位数
是否
限制
为大数字/
浮点数
?最后,我怎样才能解决这个问题呢?
浏览 1
提问于2013-11-25
得票数 1
1
回答
有条件地对
浮点数
/双精度数进行舍入
、
、
、
我有一个独特
的
问题。我有一个有很多表
的
数据库,我正在尝试用一个文件对每个表进行一些比较。现在,在某些情况下,我
的
数据库包含双精度/
浮点数
列,它们可能会超过文件中相同列
的
小数
位数
。现在我想把我
的
db返回
的
所有浮点型/双精度列转换成一个4位小数
的
字符串,如果它超过了that.how,我可以实现同样
的
效果。请注意,每个表可能包含超过2000行,我不想让这个比较繁重。你知道我怎样才能达到同样
的</
浏览 0
提问于2011-02-04
得票数 1
回答已采纳
1
回答
有没有办法减少小数点后
的
位数
?
、
我
的
android应用程序出了点小问题。我想用手机
的
GPS显示当前
的
纬度和经度。我能够获得手机的当前坐标,但它显示为双精度值与…我认为小数点后有6-8
位数
字。有没有办法减少小数点后
的
位数
?下面是我
的
代码: protected LocationManager
浏览 3
提问于2014-01-17
得票数 0
1
回答
C++中令人难以置信
的
大数字
、
、
就像标题说
的
那样,我需要某种方式来存储和计算C++中超过50万
位数
的
整数。该程序需要
的
操作是:除法(整数)、加、减和模。有人知道有图书馆能帮我完成这个任务吗?
浏览 1
提问于2013-10-04
得票数 0
回答已采纳
1
回答
混合变量数据类型
的
数学
我正在计算混合数据类型
的
变量
的
完成百分比。
浏览 0
提问于2011-01-12
得票数 0
回答已采纳
1
回答
如何在C中显示没有十进制数字
的
浮点数
我想打印一个没有十进制数字
的
浮点数
。我知道我可以使用另一个变量,如int,并使其相同,但如果有更简单
的
东西(如%02f,但
限制
而不是至少两
位数
长),我想避免这种情况。
浏览 2
提问于2015-10-22
得票数 3
回答已采纳
1
回答
从浮点值列表中选择并创建多个范围内
的
新值列表
、
、
、
、
我生成了一个包含150个质量值
的
列表。我需要从这个列表中选择0.2-0.5,0.5-1.2等值,然后找到列表中这些部分
的
中
位数
和范围,但我尝试
的
每个函数都需要整数项和范围
限制
。是否有
浮点数
的
等价物?
浏览 16
提问于2019-02-26
得票数 0
2
回答
控制小数位
的
数量
、
在C++中是否有一种方法可以将一定数量
的
小数点设置为
浮点数
?例如,如果我将多次记录为
浮点数
,我很可能会生成不同
的
结果(小数
位数
),并希望生成长度相同
的
数字,即,如果一个数字返回为1.33,还有其他数字返回为1.333,我希望将第一个结果读入为1.330。我知道有一些方法可以
限制
小数位
的
数量,比如setprecision(),但是我不想失去我
的
时间
的
精确性。
浏览 12
提问于2013-12-16
得票数 0
回答已采纳
1
回答
如何将输入字段
限制
为只有两个小数点
的
数字
、
可能重复: 我尝试过,它工作得很好,只将输入
限制
在
浮点数
或整数上。但是我不知道怎么把它
限制
在两个小数点。我在这里还看了很多其他
的
答案,但是似乎没有一个能阻止用户在打字时输入超过两
位数
。表格: <form method="post" id="split_form&
浏览 2
提问于2012-07-31
得票数 0
回答已采纳
3
回答
在python(2.6)除法中定义精度
、
、
从未来
的
导入部门执行一个部门,在这个部门中,我需要做一些修改。然而,它提供了一个很长
的
数字,例如:我只需要".“=> 1.87之后
的
前两个数字,我怎么能做到这一点?
浏览 4
提问于2010-06-16
得票数 2
回答已采纳
2
回答
Python -
限制
添加到浮动中
的
填充0
的
数量
、
、
如何格式化
浮点数
,以便将小数
位数
限制
为固定长度,但在数字比要求
的
小数
位数
少时,不要添加填充零?对于固定精度
的
打印,我通常会这样做:然而,对于小于3个小数
的
数字,它添加填充零:我希望第二个版本保持论点不变: print('{:.3f}'.other_format(123.4
浏览 5
提问于2022-08-04
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Python 浮点数的冷知识
在 Excel 中输入数值,如何限制小数位数不能超过 2?
特别注意,在Python中比较浮点数的正确方法
Python中浮点数到日期的转换方法及应用
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券