使用 decimal 包解决 go float 浮点数运算失真

文章目录

问题

go float 在运算的时候会出现精度问题

go 复制代码
package main

import (
    "fmt"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是:0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题,而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下:

go 复制代码
package main

import (
    "fmt"

    "github.com/shopspring/decimal"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    a1 := decimal.NewFromFloat(a)
    b1 := decimal.NewFromFloat(b)
    fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算;不建议用来字符串和浮点数之间转换: decimal.NewFromString("1") , 大量数据计算下性能差

原文地址

使用 decimal 包解决 go float 浮点数运算失真

相关推荐
CF14年老兵2 分钟前
2025年我最爱的免费编程学习资源宝库 💻
前端·后端·trae
Java水解5 分钟前
.NET 实现爬虫最优方案:从基础到高级的全面指南
后端
我爱娃哈哈7 分钟前
分布式事务在分片场景下,TCC和Seata到底怎么选?一线实战全解析!
分布式·后端
kele_z8 分钟前
使用FreeMarker,导出Word或者Excel
后端
王维志15 分钟前
⏱ TimeSpan:C#时间间隔结构
前端·后端·c#·.net
绿炮火21 分钟前
【MATLAB】(十)符号运算
开发语言·matlab
Absinthe_苦艾酒44 分钟前
MongoDB学习专题(五)索引
数据库·后端·mongodb
俄城杜小帅1 小时前
QML与C++交互的方式
开发语言·c++·交互
mogullzr1 小时前
4.1.ByteOJ用户模块——登录注册功能(RSA + TimeStamp加密过)
前端·后端
用户84913717547161 小时前
JDK 17 实战系列(第3期):性能优化与系统增强详解
java·后端·性能优化