js运算精度丢失,用这个库试试?

简述

js进行算术运算时,有时候会遇到以下几个问题:

arduino 复制代码
// 控制台可以尝试以下代码
0.1 + 0.2  // 0.30000000000000004
0.3 - 0.1  // 0.19999999999999998
19.9 * 100 // 1989.9999999999998

为什么会遇到这个问题呢?

由于在计算机运算过程中,十进制的数会被转化为二进制来运算,有些浮点数用二进制表示是无穷的,浮点数运算标准(IEEE 754)64位双精度的小数部分最多支持53位二进制位,运算过程中超出的二进制位会被截断。运算完后再转为十进制。所以产生了精度问题。

为了解决此问题,整理了一些第三方的js库。

相关js库推荐

js库名称 备注
Math.js JavaScript 和 Node.js 的扩展数学库
decimal.js javaScript 任意精度的库
big.js 一个轻量的任意精度库

big.js

版本介绍

本次用的big.js版本为6.2.1

页面引入

下载big.js:

访问以下页面,在网页中右键另存为即可

ruby 复制代码
// 因为作为本地测试,就不下载压缩版本了
https://cdn.jsdelivr.net/npm/big.js@6.2.1/big.js
​
// 若需要压缩版本
https://cdn.jsdelivr.net/npm/big.js@6.2.1/big.min.js

引入到html页面:

xml 复制代码
<!DOCTYPE html>
<html lang="en">
<head>
  <meta charset="UTF-8">
  <meta name="viewport" content="width=device-width, initial-scale=1.0">
  <title>Big js</title>
</head>
<body>
  <!-- 引入页面 -->
  <script src="./js/big.js"></script>
  <script>
    // 尝试Big构造方法
    console.log('Big', Big)
  </script>
</body>
</html>
工程化项目
npm install big.js

在所需页面引入:

javascript 复制代码
// 现在一般用 es 模块引入
import Big from 'big.js';
使用

基本演示:

javascript 复制代码
// 加
let a = new Big(0.1)
a = a.plus(0.2)
​
// 由于运算结果是个对象,所以展示以下值
console.log('a', a) //  {s: 1, e: -1, c: Array(1)}
// 可以使用 Number || toNumber() 转为我们需要的数值
console.log('a', a.toNumber) || console.log('a', Number(a)) // 0.3

可以链式调用:

scss 复制代码
x.div(y).plus(z).times(9)
参考文档
arduino 复制代码
// big.js 项目 github地址
https://mikemcl.github.io/big.js
​
// big.js 官方文档地址
https://mikemcl.github.io/big.js/
​
// 这篇文档将api写的很全了
https://blog.csdn.net/a123456234/article/details/132305810
相关推荐
索然无味io29 分钟前
XML外部实体注入--漏洞利用
xml·前端·笔记·学习·web安全·网络安全·php
m0_7482329243 分钟前
ERROR:This version of pnpm requires at least Node.js vXXX 的解决方案
node.js
ThomasChan1231 小时前
Typescript 多个泛型参数详细解读
前端·javascript·vue.js·typescript·vue·reactjs·js
爱学习的狮王1 小时前
ubuntu18.04安装nvm管理本机node和npm
前端·npm·node.js·nvm
东锋1.31 小时前
使用 F12 查看 Network 及数据格式
前端
zhanggongzichu1 小时前
npm常用命令
前端·npm·node.js
anyup_前端梦工厂1 小时前
从浏览器层面看前端性能:了解 Chrome 组件、多进程与多线程
前端·chrome
zzlyx991 小时前
.NET 9 微软官方推荐使用 Scalar 替代传统的 Swagger
javascript·microsoft·.net
chengpei1471 小时前
chrome游览器JSON Formatter插件无效问题排查,FastJsonHttpMessageConverter导致Content-Type返回不正确
java·前端·chrome·spring boot·json
Bunury1 小时前
组件封装-List
javascript·数据结构·list