Python 的 Decimal的错误计算

摘要 阐述在使用 Python的 Decimal类时,可能产生的错误计算。

详述 BigDecimal 的错误计算 中,笔者较为详细地说明了 Java的 BigDecimal可能出错的原因。类似地,Python的 decimal模块中有个 Decimal类,也可用于高精度的十进制运算,并且能够避免由于浮点数表示不精确带来的精度问题。但是,相仿地,由于有一些参数要设置,所以亦会出现参数不同结果不一致现象。

例1. 不妨重新讨论 计算机的错误计算(一百七十七)中多项式(稍作修改:将小数部分去掉,变成整数)。

已知

计算

代码如下:

python 复制代码
from decimal import Decimal, getcontext
base = Decimal(234) # 定义基数
terms = [ # 计算每一项
    Decimal(134450) * base ** 12,
    Decimal(-31470000) * base ** 11,
    Decimal(2030000) * base ** 10,
    Decimal(1350000) * base ** 9,
    Decimal(1680000) * base ** 8,
    Decimal(1120000) * base ** 7,
    Decimal(748000) * base ** 6,
    Decimal(187000) * base ** 5,
    Decimal(46800) * base ** 4,
    Decimal(-140) * base ** 2,
    Decimal(7666044)]
print(sum(terms)) # 计算总和,输出结果

这时,输出为 1381004:

然而,准确值是 204 . 因此,代码输出的是错误结果。

例2. 用 Python的 Decimal编程计算

代码如下(来源于一大模型):

python 复制代码
from decimal import Decimal, getcontext

getcontext().prec = 50 # 设置精度,这里设置为50位小数

base = Decimal('23.67') # 定义数值
exponent = Decimal('65.5')

part1 = base ** exponent # 计算 23.67^65.5

part2 = (exponent * base.ln()).exp() # 计算 exp(65.5 * ln(23.67))

result = part1 - part2 # 计算差值

print(result)

运行后,输出为 -1E+41(显然是错误结果。正确值是0):

另外,getcontext().prec 不同,那么输出也不同。

点评:

(1)例1可以通过提高精度获得正确结果。

(2)例2不行。

(3)对于例1,虽然可以通过提高精度获得正确值,但是,用户不确定究竟 getcontext().prec 设为多少。只能是通过实验进行猜测。正像有学者评价数学软件一样:"The multiprecision ... in Mathematica and Maple is not very useful ..., because the working precision must be specified by the user and this naturally implies some guess work"1

(4)getcontext().prec 的默认值是28 . 因此,例1中所有运算的结果应该是保留28位十进制有效数字。

参考文献

1 Cuyt A, Verdonk B, Becuwe S, et al. A remarkable example of catastrophic cancellation unraveled. Computing, 2001, 66: 309--320

相关推荐
benchmark_cc11 小时前
REST API 和 Python SDK 应该怎么选?量化交易数据接口选型实战
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
2601_9623824312 小时前
python快乐编程网络爬虫课后答案
python·网络爬虫·学习工具·课后答案·刷题app
鹏哥带你干乡墅12 小时前
优选乡墅赋能培训平台如何帮助提升乡村建设?
大数据·人工智能·python
veminhe13 小时前
python调用接口获取网络信息
python
Allen_LVyingbo14 小时前
医疗AI基础2026-构建可靠智能体的编程路径(上)
大数据·数据库·人工智能·python·自动化
Rnan-prince14 小时前
堆与TopK · 从零到通透 —— 9 节全系列复盘
python·算法
2601_9622946115 小时前
Python接口自动化测试实战:使用requests库
python·接口自动化测试·异常处理·requests库·api测试
砚底藏山河16 小时前
【量化纯GET实战 #23】多股票相关性:用收益率看板块联动
java·数据库·python·金融·数据分析
阿童木写作16 小时前
跨境电商翻译工具推荐:批量图片翻译+视频字幕实时翻译
人工智能·python·音视频
晶捷软件16 小时前
晶捷智能:集团型制造企业ERP如何实现多工厂统一管控
大数据·人工智能·python·制造