BigDecimal对象比较时的注意事项

BigDecimal对象比较时的注意事项

!NOTE

在涉及到价钱和需要保证高精度的项目中我们往往使用BigDecimal对象来存储值,而在对象在进行比较时有一些地方需要注意(博主也是替大家踩了坑了🥲)

我们先来看下面这几行代码,思考他们的输出:

java 复制代码
@Test
    public void test() {
        System.out.println(new BigDecimal(1).equals(new BigDecimal(1.00000)));
        System.out.println(new BigDecimal(1).equals(new BigDecimal("1.00000000")));
       System.out.println(new BigDecimal(1).compareTo(new BigDecimal("1.00000000000000000000")));
    }

结果可能非你所料:

bash 复制代码
true
false
0

为什么会这样呢?我们来依个分析:

java 复制代码
new BigDecimal(1).equals(new BigDecimal(1.00000))  //true

对于上面的代码

  • new BigDecimal(1) - 从int创建,值为1,精度(scale)=0

  • new BigDecimal(1.00000) - 从double创建,double值1.00000在二进制浮点数中就是1.0

  • 问题所在:从double创建:可能丢失精度信息,结果不可预测

java 复制代码
System.out.println(new BigDecimal(1).equals(new BigDecimal("1.00000000"))); //false
  • new BigDecimal(1) - 从int创建,值为1,精度(scale)=0

  • new BigDecimal("1.00000000") - 从字符串创建,值为1,精度(scale)=8

  • 问题所在:equals严格比较精度和数值,如果你需要考虑精度的话,可以考虑

java 复制代码
  System.out.println(new BigDecimal(1).compareTo(new BigDecimal("1.00000000000000000000"))); // 0
  • new BigDecimal(1) - 值为1,精度=0
  • new BigDecimal("1.00000000000000000000") - 值为1,精度=20
  • compareTo只比较数值大小,不比较精度

总结

  • 从double创建:可能丢失精度信息,结果不可预测
  • 从字符串创建:完全保留精度信息
  • equals():严格比较值和精度
  • compareTo():只比较数值大小,推荐用于数值比较

所以在实际开发中,对于BigDecimal的数值比较应该使用compareTo() == 0而不是equals()(血淋淋的教训😓)。

相关推荐
爬山算法11 小时前
Hibernate(87)如何在安全测试中使用Hibernate?
java·后端·hibernate
云姜.11 小时前
线程和进程的关系
java·linux·jvm
是码龙不是码农11 小时前
支付防重复下单|5 种幂等性设计方案(从初级到架构级)
java·架构·幂等性
曹牧11 小时前
Spring Boot:如何在Java Controller中处理POST请求?
java·开发语言
heartbeat..11 小时前
JVM 性能调优流程实战:从开发规范到生产应急排查
java·运维·jvm·性能优化·设计规范
WeiXiao_Hyy11 小时前
成为 Top 1% 的工程师
java·开发语言·javascript·经验分享·后端
苏渡苇11 小时前
优雅应对异常,从“try-catch堆砌”到“设计驱动”
java·后端·设计模式·学习方法·责任链模式
团子的二进制世界11 小时前
G1垃圾收集器是如何工作的?
java·jvm·算法
long31611 小时前
Aho-Corasick 模式搜索算法
java·数据结构·spring boot·后端·算法·排序算法
rannn_11112 小时前
【苍穹外卖|Day4】套餐页面开发(新增套餐、分页查询、删除套餐、修改套餐、起售停售)
java·spring boot·后端·学习