使用 decimal 包解决 go float 浮点数运算失真

问题

go float 在运算的时候会出现精度问题

go 复制代码
package main

import (
    "fmt"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是:0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题,而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下:

go 复制代码
package main

import (
    "fmt"

    "github.com/shopspring/decimal"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    a1 := decimal.NewFromFloat(a)
    b1 := decimal.NewFromFloat(b)
    fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算;不建议用来字符串和浮点数之间转换: decimal.NewFromString("1") , 大量数据计算下性能差

原文地址

使用 decimal 包解决 go float 浮点数运算失真

相关推荐
码事漫谈10 分钟前
AI代码审查大文档处理技术实践
后端
码事漫谈12 分钟前
C++代码质量保障:静态与动态分析的CI/CD深度整合实践
后端
蓝易云22 分钟前
Git stash命令的详细使用说明及案例分析。
前端·git·后端
Nejosi_念旧44 分钟前
Go 函数选项模式
开发语言·后端·golang
回家路上绕了弯1 小时前
Java 并发编程常见问题及解决方案
java·后端
天天摸鱼的java工程师1 小时前
🧠 你是如何理解 Spring Boot 中的自动配置原理的?——一个 8 年 Java 老兵的分享
java·后端·面试
Cosolar1 小时前
5 分钟搞定 Windows Server Docker 安装
后端
林太白1 小时前
Rust详情修改删除优化
前端·后端·rust
开心就好20251 小时前
移动端 WebView 登录异常与会话恢复问题全流程排查指南
后端
expect7g1 小时前
FlinkSQL优化---持续更新
后端·flink