遇到的问题
计算小数的时候,有的时候会遇到反直觉的数值计算现象:
ini
console.log(0.3 - 0.2 == 0.1) // false
console.log(0.25 + 0.25 == 0.5) // true
这是因为什么呢?读完这篇文章将展示浮点数的存储原理,瞅瞅他的本质是什么!
二进制存储的本质
归根结底,是因为计算机再存储的时候和我们想想的不一致。
整数部分
我们知道所有数字在计算机中都以二进制形式存储。对于整数,转换相对简:
- 十进制1 → 二进制
01
- 十进制5 → 二进制
101
- 十进制7 → 二进制
111
小数部分
那小数位置是怎么存储的呢? 是不是也按照这种存储呢? 假如也按照整数存储的方式:3.3 ---- 11.11
我们知道十进制 3.3 + 3.3 = 6.6, 如果小数方面同样这样计算 11.11 + 11.11 = 111.10 转换为10进制就变成了 7.1 ; 这很明显是不对的。
现代计算机遵循IEEE 754浮点数标准,采用三部分存储:
- 符号位(1bit)
- 指数位(8/11bit)
- 尾数位(23/52bit)
这种设计类似于科学计数法:数值 = 符号 × 尾数 × 2^指数
十进制
- 314 = 310^2 + 110^1 + 4*10^0
- 3.14 = 310^0 + 110^(-1) + 4*10^(-2)
二进制
- 101 = 12^2 +02^1 + 1*2^0 = 5
- 1.01 = 12^0 + 1 2^(-1) + 02^(-2) + 12^(-3) = 1.625
用这种方式存储会有什么问题呢?
十进制转换为二进制,必须满足分母是2的幂次
会发现二进制使用这种方式存储,他的最后一位一定是5。
ini
0.5 = 1/2 → 二进制0.1(精确存储)
0.25 = 1/4 → 二进制0.01(精确存储)
0.1 = 1/10 → 二进制无限循环0.000110011...(无法精确存储)
如果给一个十进制的最后一个数字不是5,那么他一定转换不出来有限位数的二进制
vbscript
0.3.toString(2)
// '0.010011001100110011001100110011001100110011001100110011'
0.2.toString(2)
// '0.001100110011001100110011001100110011001100110011001101'
0.5.toString(2)
'0.1'
这也就解释了为什么浮点数计算有时候正确,有时候不正确了。
那么我们工作中遇到这类的问题该怎么正确计算呢?
实践
- 转换为整数计算
ini
const price1 = 0.1;
const price2 = 0.2;
const scaled1 = price1 * 100; // 10
const scaled2 = price2 * 100; // 20
const result = (scaled1 + scaled2) / 100; // 0.3
缺陷:需要手动处理放大的倍数。
- 使用toFixed()控制显示精度
ini
const sum = 0.1 + 0.2; // 0.30000000000000004
const fixedSum = sum.toFixed(2); // "0.30"
const numSum = parseFloat(fixedSum); // 0.3(转换为数值)
缺陷:因为是四舍五入,所以到底也不是精确,如果仅仅是作为展示可以使用。
- 使用第三方计算库(如
decimal.js
、big.js
):
vbnet
// 使用 decimal.js
import Decimal from "decimal.js";
const sum = new Decimal(0.1).plus(new Decimal(0.2)).toString(); // "0.3"
- 处理动态小数,动态计算放大倍数:
ini
function getMaxDecimalPlaces(...nums) {
return Math.max(...nums.map(num => {
const str = num.toString().split('.')[1] || '';
return str.length;
}));
}
const nums = [0.1, 0.02];
const maxDecimals = getMaxDecimalPlaces(...nums); // 2
const scale = 10 ** maxDecimals;
const scaledSum = nums.reduce((sum, num) => sum + num * scale, 0);
const result = scaledSum / scale; // 0.12