bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
奶茶精Gaaa14 小时前
测试能力提升--Bug分析能力
bug
LJianK11 天前
idea自带的数据库修改默认值有bug
bug
这个软件需要设计一下4 天前
ninedata安装磁盘不足问题解决
运维·bug
热爱生活的五柒4 天前
cc-switch安装方法、介绍及遇到的bug
bug·cc-switch
Greenland_124 天前
Android 混淆与混淆后bug日志问题定位
android·bug
应用市场4 天前
踩坑记录:有符号整数位运算的那些隐蔽Bug——符号扩展、算术右移与补码
java·开发语言·bug
一灰灰blog5 天前
Jar包会自己消失?Excel会“记忆“数据?我遇到了两个灵异bug
java·spring boot·bug·excel
王家视频教程图书馆6 天前
修复服务端500相应,修复客户端上传文件.tmp 服务端接受不到文件bug
bug
qq_401700416 天前
Qt开发过程中遇到哪些经典的bug
qt·bug
0白露8 天前
关闭搜狗输入法右下角广告,可以适用于大多数应用系统通知的广告
windows·bug