Python 的 Decimal的错误计算

摘要 阐述在使用 Python的 Decimal类时,可能产生的错误计算。

在 详述 BigDecimal 的错误计算 中,笔者较为详细地说明了 Java的 BigDecimal可能出错的原因。类似地,Python的 decimal模块中有个 Decimal类,也可用于高精度的十进制运算,并且能够避免由于浮点数表示不精确带来的精度问题。但是,相仿地,由于有一些参数要设置,所以亦会出现参数不同结果不一致现象。

例1. 不妨重新讨论 计算机的错误计算(一百七十七)中多项式(稍作修改:将小数部分去掉,变成整数)。

已知

计算

代码如下:

python 复制代码
from decimal import Decimal, getcontext
base = Decimal(234) # 定义基数
terms = [ # 计算每一项
    Decimal(134450) * base ** 12,
    Decimal(-31470000) * base ** 11,
    Decimal(2030000) * base ** 10,
    Decimal(1350000) * base ** 9,
    Decimal(1680000) * base ** 8,
    Decimal(1120000) * base ** 7,
    Decimal(748000) * base ** 6,
    Decimal(187000) * base ** 5,
    Decimal(46800) * base ** 4,
    Decimal(-140) * base ** 2,
    Decimal(7666044)]
print(sum(terms)) # 计算总和,输出结果

这时,输出为 1381004:

然而,准确值是 204 . 因此,代码输出的是错误结果。

例2. 用 Python的 Decimal编程计算

代码如下(来源于一大模型):

python 复制代码
from decimal import Decimal, getcontext

getcontext().prec = 50 # 设置精度,这里设置为50位小数

base = Decimal('23.67') # 定义数值
exponent = Decimal('65.5')

part1 = base ** exponent # 计算 23.67^65.5

part2 = (exponent * base.ln()).exp() # 计算 exp(65.5 * ln(23.67))

result = part1 - part2 # 计算差值

print(result)

运行后,输出为 -1E+41(显然是错误结果。正确值是0):

另外,getcontext().prec 不同,那么输出也不同。

点评:

(1)例1可以通过提高精度获得正确结果。

(2)例2不行。

(3)对于例1,虽然可以通过提高精度获得正确值,但是,用户不确定究竟 getcontext().prec 设为多少。只能是通过实验进行猜测。正像有学者评价数学软件一样:"The multiprecision ... in Mathematica and Maple is not very useful ..., because the working precision must be specified by the user and this naturally implies some guess work"1。

(4)getcontext().prec 的默认值是28 . 因此,例1中所有运算的结果应该是保留28位十进制有效数字。

参考文献

1 Cuyt A, Verdonk B, Becuwe S, et al. A remarkable example of catastrophic cancellation unraveled. Computing, 2001, 66: 309--320

相关推荐
怕浪猫7 小时前
RAG 面试 6 连问,从原理到优化全部覆盖
python·算法·面试
高洁018 小时前
具身智能中的世界模型训练
人工智能·python·深度学习·机器学习·transformer
无线通信科研笔记8 小时前
IEEE TVT 2026 论文精读与完整复现|相位误差如何重塑近场 RIS 的幅相响应
论文阅读·人工智能·python·算法·论文笔记
朝朝辞暮i8 小时前
VLA 系统学习第 1 课:VLA 到底在干什么?
人工智能·python·计算机视觉·vla
2601_962885729 小时前
如何用 Python 自动识别股票的支撑位与压力位?
开发语言·python
北冥有鱼被烹9 小时前
VCSEL全景解析:与光模块NPO CPO的关系、市场量化分析与产业链影响
python
caoerzhong9 小时前
中小企业上 WMS 该先上哪几块:JeeWMS 开源 Java 仓库管理系统的分批上线清单
java·python·开源
正在走向自律10 小时前
AI数据分析与可视化:从基础到应用实践
服务器·人工智能·python·机器学习·数据分析·pandas
databook10 小时前
从手动检查到自动监控:一个数据质量工作流的实现
后端·python·数据分析
北冥有鱼被烹12 小时前
砷化镓与磷化铟:光模块的地基——从化学键到AI缺货潮的底层逻辑
人工智能·python