-
在做项目的时候,有一个计算金额的,结果发现计算的金额总是缺失0.01,发现相乘的时候,会失去精度,如图所示。被这整的吐血,由于计算逻辑由前端计算,所以传值后端总出错(尽量后端计算)。

还发现toFixed也会失去进度,简单来说原因:算法不一样,叫说"银行家算法",不是正常的四舍五入,(想要了解可以具体百度一下,此处记录下自己的问题与解决方法)如图所示。
一、取小数位是奇数,舍5入1;

二、取小数位为偶数,舍5不进

-
我的解决方法
toPrecision(value): 将数字格式化为特定的精度或长度
toFixed(value) :方法将字符串四舍五入为指定的小数位数
精度长度变大,后在四舍五入,向下取整;如图所示
一、四舍五入,向下取整取位小数

代码javascriptMath.round((13.345 * 100).toPrecision(12))/100 Math.floor((13.345 * 100).toPrecision(12))/100
js 小数相乘后,精度缺失问题,记录四舍五入,向下取整
窗外鸟不停2023-09-13 12:51
相关推荐
哀木11 小时前
一个简单的套壳方案,就能让你的 Agent 少做重复初始化问心无愧051311 小时前
ctf show web入门27小村儿11 小时前
给 AI Agent 装上"长期记忆":Karpathy 的 LLM Wiki 思想,我做成了工具竹林81811 小时前
用ethers.js连接MetaMask实现Web3钱包登录:从踩坑到稳定运行的完整记录heyCHEEMS11 小时前
如何用 Recast 实现静态配置文件源码级读写心连欣11 小时前
从零开始,学习所有指令!review4454312 小时前
大模型和function calling分别是如何工作的东东同学12 小时前
耗时一个月,我把 Nuxt 首屏性能排障经验做成了一个 AI Skill冴羽13 小时前
超越 Vibe Coding —— AI 辅助编程指南梦想的颜色13 小时前
一天一个SKILL——前端最佳自动化测试 webapp-testing