哎呀,被大数字运算狠狠打脸了!

之前总结过一篇《#浮点数运算精度丢失、toFixed四舍五入与预期不符问题一次性解决!》,以为在项目开发中靠自己封装的getOperatenNum(加减乘除运算)、toFixed(四舍五入)的两个函数,再也不怕加减乘除运算出问题了。

结果在这两天的一个功能开发中被打脸了。

打脸一:getOperatenNum后精度丢失

js 复制代码
const a = 999999999.999
const b = 999999999.999
d = getOperateNum(a*b,'multiply')
console.log(d)// 结果为999999999998000000

原因:JavaScript中由于Number类型的自身原因,并不能完全表示Long型的数字,在Long长度大于17位时会出现精度丢失的问题,超过17位的部分浏览器会转换为0显示

打脸二:toFixed后的结果与实际严重不符####

js 复制代码
const a = 999999999.999
const b = 999999999.999
const c = 999999999.999
d = toFixed(a*b*c, 3)
console.log(d)// 结果为10

原因: a、b、c 三个数相乘后得到的数字太大了,js自动转化成了科学计数法,如下:

js 复制代码
a*b*c = 9.999999999969999e+26

脸被打的生疼,但是大数字运算的功能还是要完成。

经过一番搜索,最终在项目中引入了专门支持大数字运算的插件decimal.js。并相对应地封装了 getOperateBidNum大数字加减乘除方法、toFixedBigNum大数字四舍五入方法,具体如下:

js 复制代码
import Decimal from "decimal.js"

/**  
 * @param a {string} 运算数1
 * @param b {string} 运算数2
 * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)
 * @param decimal{num} [需要保留的小数位]
 *
 */
export function getOperateBidNum(a, b, op,decimal){
    let res = '';
    switch (op) {
      case 'add':
        res = new Decimal(a).add(new Decimal(b)).toString();
        if(decimal) {
          res = toFixedBigNum(res,decimal)
        };
        return res
        break
      case 'subtract':
        res = new Decimal(a).sub(new Decimal(b)).toString();
        if(decimal) {
          res = toFixedBigNum(res,decimal)
        };
        return res
        break
      case 'multiply':
        res = new Decimal(a).mul(new Decimal(b)).toString();
        if(decimal) {
          res = toFixedBigNum(res,decimal)
        };
        return res
        break
      case 'divide':
        res = new Decimal(a).div(new Decimal(b)).toString();
        if(decimal) {
          res = toFixedBigNum(res,decimal)
        };
        return res
        break
    }
}

/**
 * 四舍五入
 * @param  num     [待处理数字]
 * @param  decimal [需要保留的小数位]
 * @return         最终需要的数字
*/
export function toFixedBigNum(num, decimal) {
  const strfi = String(num);
  const dotPos1 = strfi.indexOf('.');
  if(dotPos1 === -1) {
    return num
  };
  const len1 = strfi.substring(dotPos1+1).length;
  if(len1 <= decimal) {
    return num
  };
  // num的小数位超过保留位数,则进行四舍五入
  const  numStr = strfi.substring(0,dotPos1+decimal+1+1);
  const dotPos2 = numStr.indexOf('.');
  const len2 = numStr.substring(dotPos2+1).length;
  const times = Math.pow(10, len2);
  const intNum = numStr.replace('.','');
  const t = times/10;
  const n = new Decimal(intNum).div(new Decimal('10')).toString();
  const f = new Decimal(Decimal.round(n).toString()).div(new Decimal(t)).toString();
  return f
}
  

这次应该不会再被打脸了吧!

相关推荐
耶啵奶膘18 分钟前
uniapp-是否删除
linux·前端·uni-app
王哈哈^_^2 小时前
【数据集】【YOLO】【目标检测】交通事故识别数据集 8939 张,YOLO道路事故目标检测实战训练教程!
前端·人工智能·深度学习·yolo·目标检测·计算机视觉·pyqt
cs_dn_Jie2 小时前
钉钉 H5 微应用 手机端调试
前端·javascript·vue.js·vue·钉钉
开心工作室_kaic3 小时前
ssm068海鲜自助餐厅系统+vue(论文+源码)_kaic
前端·javascript·vue.js
有梦想的刺儿3 小时前
webWorker基本用法
前端·javascript·vue.js
cy玩具4 小时前
点击评论详情,跳到评论页面,携带对象参数写法:
前端
清灵xmf4 小时前
TypeScript 类型进阶指南
javascript·typescript·泛型·t·infer
小白学大数据4 小时前
JavaScript重定向对网络爬虫的影响及处理
开发语言·javascript·数据库·爬虫
qq_390161774 小时前
防抖函数--应用场景及示例
前端·javascript
334554325 小时前
element动态表头合并表格
开发语言·javascript·ecmascript