面试官又问我 0.1 + 0.2 不等于 0.3?

遇到的问题

计算小数的时候,有的时候会遇到反直觉的数值计算现象:

ini 复制代码
console.log(0.3 - 0.2 == 0.1) // false
console.log(0.25 + 0.25 == 0.5) // true

这是因为什么呢?读完这篇文章将展示浮点数的存储原理,瞅瞅他的本质是什么!

二进制存储的本质

归根结底,是因为计算机再存储的时候和我们想想的不一致。

整数部分

我们知道所有数字在计算机中都以二进制形式存储。对于整数,转换相对简:

  • 十进制1 → 二进制01
  • 十进制5 → 二进制101
  • 十进制7 → 二进制111

小数部分

那小数位置是怎么存储的呢? 是不是也按照这种存储呢? 假如也按照整数存储的方式:3.3 ---- 11.11

我们知道十进制 3.3 + 3.3 = 6.6, 如果小数方面同样这样计算 11.11 + 11.11 = 111.10 转换为10进制就变成了 7.1 ; 这很明显是不对的。

现代计算机遵循IEEE 754浮点数标准,采用三部分存储:

  1. 符号位(1bit)
  2. 指数位(8/11bit)
  3. 尾数位(23/52bit)

这种设计类似于科学计数法:数值 = 符号 × 尾数 × 2^指数

十进制

  • 314 = 310^2 + 110^1 + 4*10^0
  • 3.14 = 310^0 + 110^(-1) + 4*10^(-2)

二进制

  • 101 = 12^2 +02^1 + 1*2^0 = 5
  • 1.01 = 12^0 + 1 2^(-1) + 02^(-2) + 12^(-3) = 1.625

用这种方式存储会有什么问题呢?

十进制转换为二进制,必须满足分母是2的幂次

会发现二进制使用这种方式存储,他的最后一位一定是5。

ini 复制代码
0.5 = 1/2 → 二进制0.1(精确存储)
0.25 = 1/4 → 二进制0.01(精确存储)
0.1 = 1/10 → 二进制无限循环0.000110011...(无法精确存储)

如果给一个十进制的最后一个数字不是5,那么他一定转换不出来有限位数的二进制

vbscript 复制代码
0.3.toString(2)
// '0.010011001100110011001100110011001100110011001100110011'

0.2.toString(2)
// '0.001100110011001100110011001100110011001100110011001101'

0.5.toString(2)
'0.1'

这也就解释了为什么浮点数计算有时候正确,有时候不正确了。

那么我们工作中遇到这类的问题该怎么正确计算呢?

实践

  1. 转换为整数计算
ini 复制代码
const price1 = 0.1;
const price2 = 0.2;
const scaled1 = price1 * 100; // 10
const scaled2 = price2 * 100; // 20
const result = (scaled1 + scaled2) / 100; // 0.3

缺陷:需要手动处理放大的倍数。

  1. 使用toFixed()控制显示精度
ini 复制代码
const sum = 0.1 + 0.2; // 0.30000000000000004
const fixedSum = sum.toFixed(2); // "0.30"
const numSum = parseFloat(fixedSum); // 0.3(转换为数值)

缺陷:因为是四舍五入,所以到底也不是精确,如果仅仅是作为展示可以使用。

  1. 使用第三方计算库(如 decimal.jsbig.js):
vbnet 复制代码
// 使用 decimal.js
import Decimal from "decimal.js";
const sum = new Decimal(0.1).plus(new Decimal(0.2)).toString(); // "0.3"
  1. 处理动态小数,动态计算放大倍数:
ini 复制代码
function getMaxDecimalPlaces(...nums) {
  return Math.max(...nums.map(num => {
    const str = num.toString().split('.')[1] || '';
    return str.length;
  }));
}

const nums = [0.1, 0.02];
const maxDecimals = getMaxDecimalPlaces(...nums); // 2
const scale = 10 ** maxDecimals;
const scaledSum = nums.reduce((sum, num) => sum + num * scale, 0);
const result = scaledSum / scale; // 0.12
相关推荐
yrldjsbk8 分钟前
uniapp开发09-设置一个tabbar底部导航栏且配置icon图标
前端·uni-app
sunbyte34 分钟前
Three.js + React 实战系列 - 项目展示区开发详解 Projects 组件(3D 模型 + 动效 + 状态切换)✨
javascript·react.js·3d
源码方舟39 分钟前
【HTML5】显示-隐藏法 实现网页轮播图效果
前端·javascript·html·css3·html5
二川bro1 小时前
依赖注入详解与案例(前端篇)
前端
还是大剑师兰特1 小时前
vue源代码采用的设计模式分解
javascript·vue.js·设计模式
战族狼魂2 小时前
用html+js+css实现的战略小游戏
javascript·css·html
神秘代码行者3 小时前
Vue项目Git提交流程集成
前端·vue.js·git
火龙谷3 小时前
【爬虫】微博热搜机
javascript·爬虫
Cloud Traveler4 小时前
JavaScript性能优化实战:从瓶颈分析到解决方案
开发语言·javascript·性能优化
阿黄学技术4 小时前
Vite简单介绍
前端·前端框架·vue