使用 decimal 包解决 go float 浮点数运算失真

问题

go float 在运算的时候会出现精度问题

go 复制代码
package main

import (
    "fmt"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是:0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题,而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下:

go 复制代码
package main

import (
    "fmt"

    "github.com/shopspring/decimal"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    a1 := decimal.NewFromFloat(a)
    b1 := decimal.NewFromFloat(b)
    fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算;不建议用来字符串和浮点数之间转换: decimal.NewFromString("1") , 大量数据计算下性能差

原文地址

使用 decimal 包解决 go float 浮点数运算失真

相关推荐
啷里格啷3 分钟前
第三章 Fast-DDS核心源码导读与流程拆解-Discovery机制
后端·架构
Oneslide11 分钟前
fio测试导致磁盘LVM结构损坏故障处置办法
后端
小小前端仔LC12 分钟前
Node.js + LangChain +React:搭建个人知识库(四)- 把向量和文件切块存入mysql中
后端·node.js
神奇小汤圆18 分钟前
Agent 框架别急着乱学:先用 LangChain 搞懂 7 个基本模块
后端
神奇小汤圆20 分钟前
一次线上故障带你看懂 MySQL InnoDB 缓冲池
后端
啷里格啷27 分钟前
第三章 Fast-DDS核心源码导读与流程拆解
后端·架构
爱编程的小新☆39 分钟前
Spring-AI入门
java·后端·spring
蝎子莱莱爱打怪41 分钟前
👋🏻👋🏻再见,拉勾网——那个"最懂互联网人"的招聘平台倒了😭
前端·后端·招聘
用户298698530141 小时前
Java 获取 Word 文档中修订记录的实现方法
java·后端
TheRouter1 小时前
PromptCaching 工程实践:把LLM 调用成本砍掉80%
java·后端·spring·ai