bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
gladiator+15 小时前
Weblog项目bug合集
bug
workflower1 天前
小强地狱(Bug Hell)
大数据·bug·团队开发·需求分析·个人开发·结对编程
万粉变现经纪人2 天前
Python系列Bug修复PyCharm控制台pip install报错:如何解决 pip install 网络报错 企业网关拦截 User-Agent 问题
网络·python·pycharm·beautifulsoup·bug·pandas·pip
燕双嘤2 天前
Bug:Nginx 转发末尾斜杠导致 404 问题分析
bug
TeleostNaCl2 天前
一种解决 Win10的微软输入法无法禁用 shift + 空格 切换半角/全角切换bug的方法
经验分享·微软·bug
wy3136228212 天前
android——开发中的常见Bug汇总与解决方案(闪退)
android·bug
Swift社区3 天前
RN 项目中“页面存在 ≠ 页面可见”会导致哪些隐藏 Bug?
react native·bug·react
tongyue3 天前
天问esp32驱动DHT11官方程序BUG修复
bug
laocooon5238578865 天前
写代码 调bug相关信息
bug
鸿儒5175 天前
记录一个C++操作8位影像的一个bug
开发语言·c++·bug