前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Java数值问题汇总

Java数值问题汇总

作者头像
雨临Lewis
发布2022-01-14 08:03:30
4890
发布2022-01-14 08:03:30
举报
文章被收录于专栏:雨临Lewis的博客

double转成BigDecimal的精度损失问题

如果直接用构造方法将double数值转成BigDecimal,可能存在损失精度的问题:

1 2 3 4 5 6

final BigDecimal b1 =new BigDecimal(0.48); final BigDecimal b2 = BigDecimal.valueOf(0.48); // 0.479999999999999982236431605997495353221893310546875 System.out.println(b1); // 0.48 System.out.println(b2);

可以看到,第一种方式丢失了精度。原因是0.48这个浮点数实际上并不能非常精确的表示0.48这个double值,因为二进制表示的小数部分长度是有限的。

为了避免丢失精度,需要调用官方提供的valueOf方法,实际上底层是将浮点数先转成字符串,再转成BigDecimal:

1 2 3 4 5 6 7

public static BigDecimal valueOf(double val) { // Reminder: a zero double returns '0.0', so we cannot fastpath // to use the constant ZERO. This might be important enough to // justify a factory approach, a cache, or a few private // constants, later. return new BigDecimal(Double.toString(val)); }

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022-01-102,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • double转成BigDecimal的精度损失问题
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档