bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
岳轩子4 小时前
git更新的bug
git·bug
DADONGOOO5 小时前
Ultralytics中的RT-DETR模块的RepC3 bug
bug
waves浪游10 小时前
自动化测试常用函数
测试用例·bug·测试
介si啥呀~12 小时前
解决splice改变原数组的BUG(拷贝数据)
java·前端·bug
sheepfagdng12 小时前
软件测试——BUG概念
bug·压力测试
Z_z在努力18 小时前
【软件测试】bug 篇
bug·测试
upp19 小时前
[bug]langchain agent报错Invalid Format: Missing ‘Action Input:‘ after ‘Action:‘
javascript·python·langchain·bug
hunter12719 小时前
Dolphinscheduler3.2.1运行Java Jar路径重复的BUG修复问题
java·bug·jar
achonor21 小时前
Unity UGUI Image使用图集透明度点击过滤BUG
unity·游戏引擎·bug
Test-Sunny1 天前
多个定时器同时工作时,会出现哪些常见的bug ,如何解决??(定时任务未实时更新但刷新后正常的问题分析)
功能测试·bug·集成测试