前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >BigDecimal.setScale用法总结(固定精度)

BigDecimal.setScale用法总结(固定精度)

作者头像
全栈程序员站长
发布2022-11-01 15:11:25
7210
发布2022-11-01 15:11:25
举报
文章被收录于专栏:全栈程序员必看
代码语言:javascript
复制
BigDecimal.setScale(int newScale, int roundingMode)

newScale: 保留newScale位小数 roundingMode: 舍去规则(0 <= roundingMode <= 7)

一、BigDecimal.ROUND_DOWN

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.16159");
// 直接舍去多余的位数,不进行四舍五入
System.out.println(num.setScale(1, BigDecimal.ROUND_DOWN)); // 3.1
System.out.println(num.setScale(2, BigDecimal.ROUND_DOWN)); // 3.16

二、BigDecimal.ROUND_UP

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.161590");
// 进位处理,不进行四舍五入(精度后的位数是0不进位)
System.out.println(num.setScale(1, BigDecimal.ROUND_UP)); // 3.2
System.out.println(num.setScale(2, BigDecimal.ROUND_UP)); // 3.17
System.out.println(num.setScale(5, BigDecimal.ROUND_UP)); // 3.16159

三、BigDecimal.ROUND_CEILING

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.161590");
// 天花板(向上),正数进位向上,同ROUND_UP
System.out.println(num.setScale(1, BigDecimal.ROUND_CEILING)); // 3.2
System.out.println(num.setScale(2, BigDecimal.ROUND_CEILING)); // 3.17
System.out.println(num.setScale(5, BigDecimal.ROUND_CEILING)); // 3.16159
代码语言:javascript
复制
BigDecimal num = new BigDecimal("-3.161590");
// 天花板(向上),负数舍位向上,同ROUND_DOWN
System.out.println(num.setScale(1, BigDecimal.ROUND_CEILING)); // -3.1
System.out.println(num.setScale(2, BigDecimal.ROUND_CEILING)); // -3.16
System.out.println(num.setScale(5, BigDecimal.ROUND_CEILING)); // -3.16159

四、BigDecimal.ROUND_FLOOR

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.161590");
// 地板(向下),正数舍位向下
System.out.println(num.setScale(1, BigDecimal.ROUND_FLOOR)); // 3.1
System.out.println(num.setScale(2, BigDecimal.ROUND_FLOOR)); // 3.16
代码语言:javascript
复制
BigDecimal num = new BigDecimal("-3.161590");
// 地板(向下),负数进位向下
System.out.println(num.setScale(1, BigDecimal.ROUND_FLOOR)); // -3.2
System.out.println(num.setScale(2, BigDecimal.ROUND_FLOOR)); // -3.17

五、BigDecimal.ROUND_HALF_UP

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.161590");
// 正常四舍五入
System.out.println(num.setScale(1, BigDecimal.ROUND_HALF_UP)); // 3.2
System.out.println(num.setScale(2, BigDecimal.ROUND_HALF_UP)); // 3.16

六、BigDecimal.ROUND_HALF_DOWN

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.161500");
// 四舍五入(若舍弃部分>.5,就进位)
System.out.println(num.setScale(1, BigDecimal.ROUND_HALF_DOWN)); // 3.2
System.out.println(num.setScale(2, BigDecimal.ROUND_HALF_DOWN)); // 3.16
System.out.println(num.setScale(3, BigDecimal.ROUND_HALF_DOWN)); // 3.161
num = new BigDecimal("3.161590");
// .590 > .5
System.out.println(num.setScale(3, BigDecimal.ROUND_HALF_DOWN)); // 3.162

七、BigDecimal.ROUND_HALF_EVEN

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.46159");
// 如果舍弃部分左边的数字为偶数,则作 ROUND_HALF_DOWN
System.out.println(num.setScale(1, BigDecimal.ROUND_HALF_EVEN)); // 3.5
System.out.println(num.setScale(2, BigDecimal.ROUND_HALF_EVEN)); // 3.46
代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.37459");
// 如果舍弃部分左边的数字为奇数,则作 ROUND_HALF_UP
System.out.println(num.setScale(1, BigDecimal.ROUND_HALF_EVEN)); // 3.4
System.out.println(num.setScale(2, BigDecimal.ROUND_HALF_EVEN)); // 3.37

八、BigDecimal.ROUND_UNNECESSARY

代码语言:javascript
复制
BigDecimal num = new BigDecimal("3.37459");
// 断言请求的操作具有精确的结果
System.out.println(num.setScale(5, BigDecimal.ROUND_UNNECESSARY)); // 3.37459
System.out.println(num.setScale(2, BigDecimal.ROUND_UNNECESSARY)); // 抛出 ArithmeticException

如果有5位小数,那么指定舍5位的话,会正确输出结果。但是指定的位数不是num的位数,即不是5位,那么会抛出ArithmeticException异常,这样就可以检证num的小数位数。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/179948.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022年10月20日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档