bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
癫狂的兔子5 小时前
【BUG】【Python】【爬虫】爬取加载中的数据
爬虫·python·bug
wangsir.1 天前
测试之BUG篇
bug·测试
万粉变现经纪人2 天前
如何解决 pip install pyodbc 报错 缺少 ‘cl.exe’ 或 ‘sql.h’(ODBC 头文件)问题
数据库·python·sql·网络协议·bug·ssl·pip
cat2bug3 天前
介绍一下如何在Cat2Bug-Platform中通过OpenAI来创建测试用例
功能测试·测试工具·ai·测试用例·bug·openai
Lz__Heng3 天前
ESXI 6.7.0 update 2(VMware ESXi, 6.7.0, 13006603)监控采集数据已知BUG
bug·vmware
自学也学好编程3 天前
【BUG】Claude Code跳过强制登录解决方法
bug
cat2bug4 天前
介绍一下Cat2Bug-App如何连接自己的Bug平台
bug
秋天枫叶354 天前
【k8s集群Docker + cri-dockerd】服务器重启或关机后 apiserver/controller/scheduler 无法自动恢复
linux·运维·服务器·容器·kubernetes·bug
小趴菜不能喝5 天前
若依Plus 的XSSFilter 的bug
bug
朝新_6 天前
【无标题】软件测试bug篇
bug