python中精度处理:decimal

decimal 是 Python 标准库中的一个模块,专门用于十进制浮点数运算 。它的核心作用是解决二进制浮点数(即普通的 float)在精度上的一些固有问题,能够进行精确的、符合人类数学直觉的十进制运算。

为什么需要 decimal?

先看一个例子:

复制代码
print(0.1 + 0.2)          # 输出: 0.30000000000000004
print(0.1 + 0.2 == 0.3)   # 输出: False

这是因为计算机使用二进制(基数为2)来表示数字,而像 0.1 这样的十进制小数在二进制中是无限循环的,无法被精确表示。这在金融计算、科学计算等对精度有严格要求的场景下是不可接受的。

decimal 模块正是为此而生,它使用十进制(基数为10)进行计算,可以精确地表示十进制小数。

decimal 的基本用法

1. 创建 Decimal 对象

为避免精度损失,强烈建议从字符串 创建 Decimal:

复制代码
from decimal import Decimal

# 正确:从字符串创建
d1 = Decimal('0.1')
d2 = Decimal('0.2')
print(d1 + d2)  # 输出: 0.3

# 不推荐:从浮点数创建,会继承浮点数的精度问题
d3 = Decimal(0.1)
print(d3)       # 输出: 0.1000000000000000055511151231257827021181583404541015625
2. 基本运算

Decimal 支持所有常规的算术运算:

复制代码
from decimal import Decimal

a = Decimal('10.5')
b = Decimal('3.2')

print(a + b)    # 13.7
print(a - b)    # 7.3
print(a * b)    # 33.60
print(a / b)    # 3.28125
3. 设置精度和上下文

可以通过 getcontext() 来设置全局的精度(有效位数)和舍入模式。

复制代码
from decimal import Decimal, getcontext

# 设置全局精度为 6 位有效数字
getcontext().prec = 6

print(Decimal('1') / Decimal('7'))  # 输出: 0.142857
print(Decimal('1.23456789'))        # 输出: 1.23457(四舍五入到6位)

在特定的代码块中,也可以使用 localcontext 来临时覆盖全局上下文:

复制代码
from decimal import Decimal, localcontext

with localcontext() as ctx:
    ctx.prec = 2
    print(Decimal('1') / Decimal('7'))  # 输出: 0.14

# 退出 with 块后,精度恢复为全局设置
print(Decimal('1') / Decimal('7'))      # 输出: 0.142857

Decimal vs float vs Fraction

类型 适用场景 特点
float 科学计算、图形处理等对精度要求不高的场景 速度快,直接使用硬件浮点单元
Decimal 金融、财务、货币计算 等绝对禁止精度丢失的业务逻辑 精度高,符合十进制运算习惯,但速度较慢
Fraction 需要精确表示有理数(分数)的场景,如数学推导 用分子分母表示,不会丢失精度

建议是:日常科学计算用 float,金钱和财务计算必须用 Decimal,涉及分数的数学问题优先考虑 Fraction。

相关推荐
用户8356290780518 分钟前
使用 Python 对 Excel 工作表进行排序
后端·python
for_ever_love__31 分钟前
MySQL 全文索引实战:FULLTEXT、ngram 中文分词与 MATCH AGAINST 到底该怎么用
java·python·mysql·全文检索·分词·索引·ngram
用户83562907805136 分钟前
使用 Python 合并 PowerPoint 演示文稿
后端·python
weixin_461769401 小时前
VS Code 中创建 Jupyter 文件(.ipynb)
ide·python·jupyter
2601_966949651 小时前
多市场量化策略的数据接口应该如何设计:从数据层架构到策略接入
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
全栈弄潮儿1 小时前
Python实战第1期:Python环境搭建与第一个程序
python
心易行者1 小时前
Agent应用+API端点商业化进阶实战:从单体智能体到可付费调用的API全流程
运维·服务器·人工智能·python·apache
weixin199701080162 小时前
《1688图片空间API踩坑:img.upload 与 album.* 的防盗链与CDN缓存问题》(附Python源码)
开发语言·python·缓存
布吉岛的石头2 小时前
Java 程序员第 49 阶段11:Java 接 BERT:用 ONNX Runtime 做句向量推理
java·人工智能·python·深度学习·bert·transformer
第25小时记录2 小时前
数据结构与算法 -第 3 章 常用算法-动态规划
数据结构·python