bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
奶茶精Gaaa1 小时前
精彩bug--连续接受消息快速点击聊天页出现消息重叠
bug
奶茶精Gaaa1 小时前
精彩bug--带图片+文字消息打开图片显示格式损坏
bug
奶茶精Gaaa2 小时前
精彩bug--每次发版页面不会自动清缓存
bug
qq_452396231 天前
【测试之道】第六篇:缺陷管理论 —— Bug 的生态位、生命周期与根因分析(RCA)
功能测试·bug·软件工程
赵庆明老师1 天前
宝塔Linux面板Bug修复:添加反向代理出错
linux·运维·bug
qq_452396231 天前
【测试之道】第七篇:非功能性测试 —— 性能、安全与兼容性:构建软件的“硬核”防御
功能测试·安全·bug·软件工程
22信通小白2 天前
USRP初学者使用手册(基础配置及bug记录)——Windows+MATLAB
windows·matlab·bug
G果3 天前
ros2工程 debug(vscode)
c++·ide·vscode·编辑器·bug·debug·ros2
前端大波3 天前
利用 codex 自动化实现每日定时拉取 sentry 日志,解决 bug
自动化·bug·sentry
亚林瓜子4 天前
AWS EB使用自定义镜像
云计算·bug·aws·ami·fix·eb·al2023