关于javascript数字精度丢失的解决办法

分析原因

众所周知,在JavaScript中计算两个十进制数的和,有时候会出现令人惊讶的结果,主要原因是计算机将数据存储为二进制所引起的,所以这并不是javascript存在的缺陷,而在其他语言中也有类似的问题。

例如下面的例子:

我们在计算 0.1 + 0.1 的到的结果是 0.2,但是计算 0.1 + 0.2 的结果并不是0.3,而是0.30000000000000004

我们在计算 1.2 - 1 的结果并不是0.2,而是0.19999999999999996

不过这并不是JavaScript独有的,其他编程语言也会存在同样的问题。

解决办法:我们可以使用toPrecision凑整后再使用parentFloat,比如计算1.6385000000000001

bash 复制代码
let parse = parseFloat(1.6385000000000001.toPrecision(12))
console.log(parse === 1.6385) // true

接下来我们封装成方法使用

bash 复制代码
/**
	@param: 浮点小数
	@precise: 转换后有几位数
*/
function precision(num, precise) {
  return parseFloat(num.toPrecision(precise));
}

precision(1.6385000000000001, 1) // 2
precision(1.6385000000000001, 2) // 1.6
precision(1.6385000000000001, 3) // 1.64

其原理就相当一数学中的四舍五入。

相关推荐
Highcharts.js1 小时前
Highcharts漏斗图表使用配置指南
java·开发语言·javascript·信息可视化·highcharts·漏斗图
武昌库里写JAVA5 小时前
SpringBoot+Vue 项目介绍
java·javascript·git·sql·ai
Lanwarf-前端开发7 小时前
Vue3 + Canvas/WebGL 雷达扫描可视化实战:PPI、RHI、VOL、SVOL 四种模式原理与实现
前端·javascript·vue.js·webgl
ComPDFKit7 小时前
RAG 回答只显示 PDF 文件名?用 Python 保留引用页码
开发语言·python·pdf·rag
FRing037 小时前
vue3干货总结2(vue3生命周期、父子通信、模版引用、provide和inject)
开发语言·前端·vue.js·vue3
YIAN9 小时前
从 LangChain 到 DeepAgents:手把手拆解 createAgent、Middleware 与复杂 Agent
javascript·langchain·deepseek
琳少_10 小时前
java程序开发笔记
java·开发语言·数据库·笔记
七夜zippoe10 小时前
Agent 告警设计:分级告警、智能降噪与值班排班
开发语言·ai·agent·告警·智能降噪·值班排班
冬夜Zis11 小时前
顺着作用域链和 outer 指针,一次性看懂闭包底层逻辑
javascript
Ceelog11 小时前
Mac 上怎么找出并安全清理旧的 node_modules?(实测 304 个占 66.3 GB)
javascript