使用 decimal 包解决 go float 浮点数运算失真

问题

go float 在运算的时候会出现精度问题

go 复制代码
package main

import (
    "fmt"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    fmt.Println("a+b=", a+b) // 你以为是 0.9  但是结果是:0.8999999999999999
}

你观察到的 0.3 + 0.6 = 0.8999999999999999 现象是由于计算机使用二进制浮点数表示十进制小数时的固有精度问题,而不是 Go 语言特有的问题。这是所有使用 IEEE 754 浮点数标准的编程语言都会遇到的情况

解决

使用 decimal 包解决 golang 浮点数运算失真

代码如下:

go 复制代码
package main

import (
    "fmt"

    "github.com/shopspring/decimal"
)

func main() {
    var a float64 = 0.3
    var b float64 = 0.6
    a1 := decimal.NewFromFloat(a)
    b1 := decimal.NewFromFloat(b)
    fmt.Println("a+b=", a1.Add(b1)) //  0.9
}

注意

decimal建议只用做 float 计算;不建议用来字符串和浮点数之间转换: decimal.NewFromString("1") , 大量数据计算下性能差

原文地址

使用 decimal 包解决 go float 浮点数运算失真

相关推荐
ss27311 小时前
手写Spring第4弹: Spring框架进化论:15年技术变迁:从XML配置到响应式编程的演进之路
xml·java·开发语言·后端·spring
舒一笑12 小时前
🚀 PandaCoder 2.0.0 - ES DSL Monitor & SQL Monitor 震撼发布!
后端·ai编程·intellij idea
Java中文社群12 小时前
服务器被攻击!原因竟然是他?真没想到...
java·后端
helloworddm13 小时前
Orleans 流系统握手机制时序图
后端·c#
开心-开心急了14 小时前
Flask入门教程——李辉 第三章 关键知识梳理
后端·python·flask
Code blocks15 小时前
GB28181视频服务wvp部署(一)
java·spring boot·后端
我命由我1234515 小时前
Spring Boot - Spring Boot 静态资源延迟响应(使用拦截器、使用过滤器、使用 ResourceResolver)
java·spring boot·后端·spring·java-ee·intellij-idea·intellij idea
华仔啊15 小时前
3 分钟让你彻底搞懂 Spring 观察者和发布者模式的本质区别
java·后端
言之。15 小时前
LiteLLM:让LLM调用变得简单统一
后端·python·flask
驰羽16 小时前
[GO]golang接口入门:从一个简单示例看懂接口的多态与实现
开发语言·后端·golang