面试官又问我 0.1 + 0.2 不等于 0.3?

遇到的问题

计算小数的时候,有的时候会遇到反直觉的数值计算现象:

ini 复制代码
console.log(0.3 - 0.2 == 0.1) // false
console.log(0.25 + 0.25 == 0.5) // true

这是因为什么呢?读完这篇文章将展示浮点数的存储原理,瞅瞅他的本质是什么!

二进制存储的本质

归根结底,是因为计算机再存储的时候和我们想想的不一致。

整数部分

我们知道所有数字在计算机中都以二进制形式存储。对于整数,转换相对简:

  • 十进制1 → 二进制01
  • 十进制5 → 二进制101
  • 十进制7 → 二进制111

小数部分

那小数位置是怎么存储的呢? 是不是也按照这种存储呢? 假如也按照整数存储的方式:3.3 ---- 11.11

我们知道十进制 3.3 + 3.3 = 6.6, 如果小数方面同样这样计算 11.11 + 11.11 = 111.10 转换为10进制就变成了 7.1 ; 这很明显是不对的。

现代计算机遵循IEEE 754浮点数标准,采用三部分存储:

  1. 符号位(1bit)
  2. 指数位(8/11bit)
  3. 尾数位(23/52bit)

这种设计类似于科学计数法:数值 = 符号 × 尾数 × 2^指数

十进制

  • 314 = 310^2 + 110^1 + 4*10^0
  • 3.14 = 310^0 + 110^(-1) + 4*10^(-2)

二进制

  • 101 = 12^2 +02^1 + 1*2^0 = 5
  • 1.01 = 12^0 + 1 2^(-1) + 02^(-2) + 12^(-3) = 1.625

用这种方式存储会有什么问题呢?

十进制转换为二进制,必须满足分母是2的幂次

会发现二进制使用这种方式存储,他的最后一位一定是5。

ini 复制代码
0.5 = 1/2 → 二进制0.1(精确存储)
0.25 = 1/4 → 二进制0.01(精确存储)
0.1 = 1/10 → 二进制无限循环0.000110011...(无法精确存储)

如果给一个十进制的最后一个数字不是5,那么他一定转换不出来有限位数的二进制

vbscript 复制代码
0.3.toString(2)
// '0.010011001100110011001100110011001100110011001100110011'

0.2.toString(2)
// '0.001100110011001100110011001100110011001100110011001101'

0.5.toString(2)
'0.1'

这也就解释了为什么浮点数计算有时候正确,有时候不正确了。

那么我们工作中遇到这类的问题该怎么正确计算呢?

实践

  1. 转换为整数计算
ini 复制代码
const price1 = 0.1;
const price2 = 0.2;
const scaled1 = price1 * 100; // 10
const scaled2 = price2 * 100; // 20
const result = (scaled1 + scaled2) / 100; // 0.3

缺陷:需要手动处理放大的倍数。

  1. 使用toFixed()控制显示精度
ini 复制代码
const sum = 0.1 + 0.2; // 0.30000000000000004
const fixedSum = sum.toFixed(2); // "0.30"
const numSum = parseFloat(fixedSum); // 0.3(转换为数值)

缺陷:因为是四舍五入,所以到底也不是精确,如果仅仅是作为展示可以使用。

  1. 使用第三方计算库(如 decimal.jsbig.js):
vbnet 复制代码
// 使用 decimal.js
import Decimal from "decimal.js";
const sum = new Decimal(0.1).plus(new Decimal(0.2)).toString(); // "0.3"
  1. 处理动态小数,动态计算放大倍数:
ini 复制代码
function getMaxDecimalPlaces(...nums) {
  return Math.max(...nums.map(num => {
    const str = num.toString().split('.')[1] || '';
    return str.length;
  }));
}

const nums = [0.1, 0.02];
const maxDecimals = getMaxDecimalPlaces(...nums); // 2
const scale = 10 ** maxDecimals;
const scaledSum = nums.reduce((sum, num) => sum + num * scale, 0);
const result = scaledSum / scale; // 0.12
相关推荐
不和乔治玩的佩奇7 分钟前
【 React 】useState (温故知新)
前端
那小孩儿7 分钟前
?? 、 || 、&&=、||=、??=这些运算符你用对了吗?
前端·javascript
七月十二10 分钟前
[微信小程序]对接sse接口
前端·微信小程序
小七_雪球12 分钟前
Permission denied"如何解决?详解GitHub SSH密钥认证流程
前端·github
野原猫之助13 分钟前
tailwind css在antd组件中使用不生效
前端
菜鸟码农_Shi15 分钟前
Node.js 如何实现 GitHub 登录(OAuth 2.0)
javascript·node.js
没资格抱怨20 分钟前
如何在vue3项目中使用 AbortController取消axios请求
前端·javascript·vue.js
掘金酱24 分钟前
😊 酱酱宝的推荐:做任务赢积分“拿”华为MatePad Air、雷蛇机械键盘、 热门APP会员卡...
前端·后端·trae
热爱编程的小曾35 分钟前
sqli-labs靶场 less 11
前端·css·less
丁总学Java41 分钟前
wget(World Wide Web Tool) 教程:Mac ARM 架构下安装与使用指南!!!
前端·arm开发·macos