JS浮点数精度问题

在JavaScript开发中,浮点数精度问题是一个常见的陷阱。本文将深入探讨JavaScript中浮点数精度问题的原因、影响以及解决方案。

一、浮点数精度常见问题

(一)加法运算

js 复制代码
console.log(0.1 + 0.2); // 0.30000000000000004
console.log(0.7 + 0.1); // 0.7999999999999999
console.log(0.2 + 0.4); // 0.6000000000000001
console.log(2.22 + 0.1); // 2.3200000000000003

(二)减法运算

js 复制代码
console.log(1.5 - 1.2); // 0.30000000000000004
console.log(0.3 - 0.2); // 0.09999999999999998

(三)乘法运算

js 复制代码
console.log(19.9 * 100); // 1989.9999999999998
console.log(19.9 * 10 * 10); // 1990
console.log(9.7 * 100); // 969.9999999999999
console.log(39.7 * 100); // 3970.0000000000005

(四)除法运算

js 复制代码
console.log(0.3 / 0.1); // 2.9999999999999996
console.log(0.69 / 10); // 0.06899999999999999

(五)四舍五入保留小数位数

js 复制代码
console.log((1.335).toFixed(2)); // 1.33

二、为什么会有这样的问题

(一)浮点数的存储方式

在JavaScript中,所有数字都以64位浮点数形式存储,即使整数也是如此。这种存储方式基于IEEE 754标准,其中64位的划分如下:

  • 符号位(1位):表示正负数,0表示正数,1表示负数。
  • 指数位(11位):表示次方数。
  • 尾数位(52位):存储小数部分,超出部分自动进一舍零。

(二)二进制表示的局限性

浮点数在计算机中以二进制形式存储,但某些十进制小数无法精确表示为二进制小数。例如,0.1和0.2在二进制中是无限循环小数,因此在存储时会被截断,导致精度丢失。

(三)JavaScript的Number类型

JavaScript中的Number类型统一按浮点数处理,整数也是按最大54位来计算的。因此,当数值超过安全范围(Number.MAX_SAFE_INTEGER和Number.MIN_SAFE_INTEGER)时,就会出现精度问题。

三、解决方案

(一)使用第三方库

为了精确处理浮点数运算,可以使用一些成熟的第三方库,如Math.js、decimal.js和big.js。

Math.js

Math.js是一个功能强大的数学库,支持多种数据类型和操作。

js 复制代码
const math = require('mathjs');
console.log(math.add(0.1, 0.2)); // 0.3
decimal.js

decimal.js提供任意精度的十进制数值运算。

js 复制代码
const Decimal = require('decimal.js');
console.log(new Decimal(0.1).plus(0.2).toNumber()); // 0.3
big.js

big.js专注于大数运算,支持高精度的浮点数运算。

js 复制代码
const Big = require('big.js');
console.log(new Big(0.1).plus(0.2).toString()); // "0.3"

(二)自定义函数

如果不想引入第三方库,可以编写自定义函数来处理浮点数运算。以下是一个简单的加法函数示例:

js 复制代码
function add(a, b) {
    const factor = 10 ** 10;
    return (Math.round(a * factor) + Math.round(b * factor)) / factor;
}
console.log(add(0.1, 0.2)); // 0.3

(三)避免浮点数运算

在某些情况下,可以避免直接使用浮点数运算。例如,处理货币时,可以将金额转换为整数(如分)进行计算,最后再转换回浮点数。

js 复制代码
function addCents(a, b) {
    return (Math.round(a * 100) + Math.round(b * 100)) / 100;
}
console.log(addCents(0.1, 0.2)); // 0.3
相关推荐
Wang's Blog38 分钟前
Java 项目实战: 外卖平台优化-Nginx配置文件结构与块层级
java·开发语言·nginx
2601_949950631 小时前
练题簿在线免费刷题 从资料整理到考前自测
面试·职场和发展·pdf·word·刷题
2601_962071571 小时前
类变量和全局变量的查找路径有什么区别?
开发语言·python
福兮说2 小时前
设计稿是 #4A7C6F,页面量出来是 #4B7C6F:HEX、HSL、透明度、canvas 来回转的七个坑
前端·javascript·css·canvas
\光辉岁月/2 小时前
5.java-数组
java·开发语言
Java后端的Ai之路2 小时前
Python进阶探索29_eval内置函数
开发语言·python·探索·eval·内置函数
谢亮_vipxieliang2 小时前
Spring 事务失效的常见场景
java·开发语言·数据库·spring boot
时间的拾荒人3 小时前
Qt 多线程详解:从 QThread 到实战
开发语言·qt·面试
海绵宝宝转agent3 小时前
MySql高频面试八股开源笔记总结
mysql·面试·开源
郑州光合科技余经理3 小时前
海外版外卖加盟:总站与分站配送规则怎么分开管
java·开发语言·前端·后端·uni-app·php·ai编程