使用 decimal 包解决 go float 浮点数运算失真

文章目录

问题

go float 在运算的时候会出现精度问题

go 复制代码
package main

import (
    "fmt"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是:0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题,而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下:

go 复制代码
package main

import (
    "fmt"

    "github.com/shopspring/decimal"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    a1 := decimal.NewFromFloat(a)
    b1 := decimal.NewFromFloat(b)
    fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算;不建议用来字符串和浮点数之间转换: decimal.NewFromString("1") , 大量数据计算下性能差

原文地址

使用 decimal 包解决 go float 浮点数运算失真

相关推荐
2501_947575804 小时前
计算机毕业设计之jsp开山车行二手车交易系统
java·开发语言·hadoop·python·信息可视化·django·课程设计
骑士雄师4 小时前
java面试题 4:鉴权
java·开发语言
独孤九剑打醒他5 小时前
双层Master-Worker软硬协同调度架构:从根源解决分布式数据一致性难题
后端·嵌入式硬件·硬件架构·硬件工程
时间的拾荒人5 小时前
C语言字符函数与字符串函数完全指南
c语言·开发语言
2501_948106916 小时前
计算机毕业设计之基于jsp教科研信息共享系统
java·开发语言·信息可视化·spark·课程设计
取经蜗牛6 小时前
Python 第一阶段完全指南:从零到第一个实用工具
开发语言·python
不会c+6 小时前
02-SpringBoot配置文件
java·spring boot·后端
dog2506 小时前
从重尾到截断流量模型的演进
开发语言·php
qq_401700417 小时前
Qt QSS 完全入门写出漂亮界面以及解决样式不生效问题
开发语言·qt
雨辰AI8 小时前
生产级实战:人大金仓 V9 标准化运维手册(日常巡检 + 监控告警 + 应急处置)
java·运维·数据库·后端