-
在做项目的时候,有一个计算金额的,结果发现计算的金额总是缺失0.01,发现相乘的时候,会失去精度,如图所示。被这整的吐血,由于计算逻辑由前端计算,所以传值后端总出错(尽量后端计算)。

还发现toFixed也会失去进度,简单来说原因:算法不一样,叫说"银行家算法",不是正常的四舍五入,(想要了解可以具体百度一下,此处记录下自己的问题与解决方法)如图所示。
一、取小数位是奇数,舍5入1;

二、取小数位为偶数,舍5不进

-
我的解决方法
toPrecision(value): 将数字格式化为特定的精度或长度
toFixed(value) :方法将字符串四舍五入为指定的小数位数
精度长度变大,后在四舍五入,向下取整;如图所示
一、四舍五入,向下取整取位小数

代码javascriptMath.round((13.345 * 100).toPrecision(12))/100 Math.floor((13.345 * 100).toPrecision(12))/100
js 小数相乘后,精度缺失问题,记录四舍五入,向下取整
窗外鸟不停2023-09-13 12:51
相关推荐
用户1148186789484几秒前
水印的实现方式逻辑孟陬2 小时前
Foobar 技术周刊#160:大模型让大规模形式化软件验证成为现实丨AI写C++代码之后会发生什么?丨我们真的需要alpha() 函数吗丨重试,有时会让故障更flash俊杰3 小时前
屏幕感知双通道:截图之外,为什么还要一份 UIA 控件清单熟的生菜3 小时前
从零造一个腱绳驱动灵巧手——仿真器篇3:VTK 渲染与 3D 交互——看得见、点得着、转得动Henry-SAP4 小时前
SAP PP中的核心业务流程——离散制造、重复制造、流程制造三大模式解析徐小夕4 小时前
下载量超 30 万的开源智能体 Prime Agent:它把自己从 TypeScript 重写成了 RustZhao-Jichao4 小时前
AI Prompting for Everyone 课程笔记 - P20 实验与期末项目 Lab and Final ProjectMoment4 小时前
为什么这么多 Agent Harness 都选择 TypeScripttoooooop85 小时前
CRMEB 故障排查笔记:安全网关只放行 GET/POST 怎么办软件技术NINI5 小时前
基于SpringBoot和Vue的项目评审系统