bug之浮点数精度求和计算

  • bug描述:电商项目多件商品进行结算时,总金额出现微小偏差;如0.1+0.2=0.3吗?还有可能展示成0.30000000000000004;
  • bug原因:由于计算过程中使用浮点数运算,计算机只识别二进制,所以先把0.1和0.2转换成二进制;0.1 => 0.0001 1001 1001 1001...(无限循环),0.2 => 0.0011 0011 0011 0011...(无限循环) ,对于无限循环小数,计算机进行舍入处理,进行双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ,因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004;
  • 解决方案
  1. python中的decimal模块
  2. 将浮点数转换成整数,返回整数和倍数,计算后再缩小为小数;
相关推荐
鬼才血脉12 小时前
Idea使用Tomact运行项目,控制台输出中文乱码
tomcat·bug
NiceCloud喜云19 小时前
Anthropic 发布 Project Glasswing:未公开模型 Mythos 已挖出 10000+ 漏洞,含 OpenBSD 27 年老 bug
android·java·数据库·c++·python·docker·bug
xufengzhu2 天前
臻识摄像头黑屏Bug 处理
bug·图像识别·摄像头
李永奉2 天前
杰理SDK开发-【BUG】软件开启音量同步连接华为、荣耀手机没有自动开启音量同步
单片机·嵌入式硬件·mcu·物联网·智能手机·bug·语音识别
堕2742 天前
软件测试bug篇
bug·压力测试
java修仙传2 天前
Java 实习日记:断面分析基态限额为空问题的排查与修复
java·开发语言·bug·实习
tkokof13 天前
捉虫(Bug)再记
游戏·bug·游戏开发
会周易的程序员3 天前
AI 编程助手:从“猫弄乱的线团”到“击鼓传花”的 Bug 修复
c++·人工智能·物联网·架构·bug·iot
樱桃花下的小猫3 天前
幻兽帕鲁 - 服务器反作弊误踢 BUG 修复指南
服务器·bug·幻兽帕鲁·云鸢互联·零门槛一键开服·幻兽帕鲁服务器
易水寒陈5 天前
8字节内存对齐引发的bug
bug