前端 JS 经典:小数运算不精确

**原因:**计算机对小数的存储是二进制的,有限位数的二进制做算法得到的是有限位数,无限位数的二进制做运算,得到的是无限位数。

如下:0.5 和 0.25 转二进制是有限位数,0.3 和 0.2 转二进制是无限位数。

javascript 复制代码
(0.5).toString(2); // 0.1

(0.25).toString(2); // 0.01

0.5 - 0.25; // 0.1 - 0.01 = 0.01



(0.3).toString(2); // '0.010011001100110011001100110011001100110011001100110011'

(0.2).toString(2); // '0.001100110011001100110011001100110011001100110011001101'

0.3 - 0.2; // 0.00891089108910891

**解决:**转字符串,然后不同位置做算法。

相关推荐
孜燃8 分钟前
Flutter APP跳转Flutter APP 携带参数
前端·flutter
花月C11 分钟前
个性化推荐:基于用户的协同过滤算法
开发语言·后端·算法·近邻算法
脾气有点小暴20 分钟前
前端页面跳转的核心区别与实战指南
开发语言·前端·javascript
lxh011326 分钟前
最长递增子序列
前端·数据结构·算法
rit843249944 分钟前
基于MATLAB的BP神经网络手写数字识别
开发语言·神经网络·matlab
Youyzq1 小时前
前端项目发布到cdn上css被编译失效问题rgba失效和rgb失效
前端·css·算法·cdn
San30.1 小时前
深入 JavaScript 内存机制:从栈与堆到闭包的底层原理
开发语言·javascript·udp
Fantastic_sj2 小时前
Vue3相比Vue2的改进之处
前端·javascript·vue.js
灰灰勇闯IT2 小时前
RN路由与状态管理:打造多页面应用
开发语言·学习·rn路由状态
wd_cloud2 小时前
QT/6.7.2/Creator编译Windows64 MySQL驱动
开发语言·qt·mysql