bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
喜欢猪猪6 小时前
高并发场景秒杀抢购超卖Bug实战重现
bug
moxiaoran57536 小时前
IDEA 未启用lombok插件的Bug
java·bug·intellij-idea
樱木...9 小时前
Bug Mark:MySQL 8.0、8.4 部分版本 DDL 操作会导致数据丢失
数据库·mysql·bug
听风吟丶1 天前
Java Bug 修复:实战经验与技巧
java·开发语言·bug
Irises`1 天前
前端页面导出word
前端·word·bug
微网天下1 天前
Mac Goland dlv 升级
ide·golang·bug·mac·brew
多方通行81 天前
关于Ubuntu的server版本登录无法输入password问题
linux·开发语言·ubuntu·编辑器·bug
WellTung_6662 天前
LightRAG测试BUG
linux·python·bug
爱吃沙鱼2 天前
禅道Bug的一次迁移
python·bug