python中精度处理:decimal

decimal 是 Python 标准库中的一个模块,专门用于十进制浮点数运算 。它的核心作用是解决二进制浮点数(即普通的 float)在精度上的一些固有问题,能够进行精确的、符合人类数学直觉的十进制运算

为什么需要 decimal

先看一个例子:

复制代码
print(0.1 + 0.2)          # 输出: 0.30000000000000004
print(0.1 + 0.2 == 0.3)   # 输出: False

这是因为计算机使用二进制(基数为2)来表示数字,而像 0.1 这样的十进制小数在二进制中是无限循环的,无法被精确表示。这在金融计算、科学计算等对精度有严格要求的场景下是不可接受的。

decimal 模块正是为此而生,它使用十进制(基数为10)进行计算,可以精确地表示十进制小数。

decimal 的基本用法

1. 创建 Decimal 对象

为避免精度损失,强烈建议从字符串 创建 Decimal

复制代码
from decimal import Decimal

# 正确:从字符串创建
d1 = Decimal('0.1')
d2 = Decimal('0.2')
print(d1 + d2)  # 输出: 0.3

# 不推荐:从浮点数创建,会继承浮点数的精度问题
d3 = Decimal(0.1)
print(d3)       # 输出: 0.1000000000000000055511151231257827021181583404541015625
2. 基本运算

Decimal 支持所有常规的算术运算:

复制代码
from decimal import Decimal

a = Decimal('10.5')
b = Decimal('3.2')

print(a + b)    # 13.7
print(a - b)    # 7.3
print(a * b)    # 33.60
print(a / b)    # 3.28125
3. 设置精度和上下文

可以通过 getcontext() 来设置全局的精度(有效位数)和舍入模式。

复制代码
from decimal import Decimal, getcontext

# 设置全局精度为 6 位有效数字
getcontext().prec = 6

print(Decimal('1') / Decimal('7'))  # 输出: 0.142857
print(Decimal('1.23456789'))        # 输出: 1.23457(四舍五入到6位)

在特定的代码块中,也可以使用 localcontext 来临时覆盖全局上下文:

复制代码
from decimal import Decimal, localcontext

with localcontext() as ctx:
    ctx.prec = 2
    print(Decimal('1') / Decimal('7'))  # 输出: 0.14

# 退出 with 块后,精度恢复为全局设置
print(Decimal('1') / Decimal('7'))      # 输出: 0.142857

Decimal vs float vs Fraction

类型 适用场景 特点
float 科学计算、图形处理等对精度要求不高的场景 速度快,直接使用硬件浮点单元
Decimal 金融、财务、货币计算绝对禁止精度丢失的业务逻辑 精度高,符合十进制运算习惯,但速度较慢
Fraction 需要精确表示有理数(分数)的场景,如数学推导 用分子分母表示,不会丢失精度

建议是:日常科学计算用 float,金钱和财务计算必须用 Decimal,涉及分数的数学问题优先考虑 Fraction

相关推荐
Sirius.z2 小时前
第R6周:LSTM实现糖尿病探索与预测
python
名字还没想好☜3 小时前
Python f-string 进阶:数字格式化、对齐填充、调试 = 号与嵌套表达式
开发语言·数据库·python·字符串格式化·f-string
·薯条大王3 小时前
经济实惠玩云服务器|一台云服务器多人共用,子账号配置教程
java·linux·运维·服务器·汇编·c++·python
Dxy12393102164 小时前
Python 如何使用 MySQL 的事务
python·mysql
今儿敲了吗8 小时前
Python ——第三方包
笔记·python
麒麟水手8 小时前
国产银河麒麟系统开发实录:跑通Streamlit,我踩过的6个坑
python
麒麟水手8 小时前
麒麟系统部署检查清单:上线前30分钟,逐项自查这4类问题
python
用户0332126663679 小时前
使用 Python 在 PDF 中添加或删除数字签名
python
代码方舟10 小时前
零信任架构实战:基于天远柠檬查出险-登记证API构建自动化车辆履约评估网关
人工智能·python·架构·自动化
估值探索者11 小时前
【Python实时盯盘与预警 #08】成交额突然放大2倍?Python窗口比较抓异动
java·开发语言·python