Python 的 Decimal的错误计算

摘要 阐述在使用 Python的 Decimal类时,可能产生的错误计算。

在 详述 BigDecimal 的错误计算 中,笔者较为详细地说明了 Java的 BigDecimal可能出错的原因。类似地,Python的 decimal模块中有个 Decimal类,也可用于高精度的十进制运算,并且能够避免由于浮点数表示不精确带来的精度问题。但是,相仿地,由于有一些参数要设置,所以亦会出现参数不同结果不一致现象。

例1. 不妨重新讨论 计算机的错误计算(一百七十七)中多项式(稍作修改:将小数部分去掉,变成整数)。

已知

计算

代码如下:

python 复制代码
from decimal import Decimal, getcontext
base = Decimal(234) # 定义基数
terms = [ # 计算每一项
    Decimal(134450) * base ** 12,
    Decimal(-31470000) * base ** 11,
    Decimal(2030000) * base ** 10,
    Decimal(1350000) * base ** 9,
    Decimal(1680000) * base ** 8,
    Decimal(1120000) * base ** 7,
    Decimal(748000) * base ** 6,
    Decimal(187000) * base ** 5,
    Decimal(46800) * base ** 4,
    Decimal(-140) * base ** 2,
    Decimal(7666044)]
print(sum(terms)) # 计算总和,输出结果

这时,输出为 1381004:

然而,准确值是 204 . 因此,代码输出的是错误结果。

例2. 用 Python的 Decimal编程计算

代码如下(来源于一大模型):

python 复制代码
from decimal import Decimal, getcontext

getcontext().prec = 50 # 设置精度,这里设置为50位小数

base = Decimal('23.67') # 定义数值
exponent = Decimal('65.5')

part1 = base ** exponent # 计算 23.67^65.5

part2 = (exponent * base.ln()).exp() # 计算 exp(65.5 * ln(23.67))

result = part1 - part2 # 计算差值

print(result)

运行后,输出为 -1E+41(显然是错误结果。正确值是0):

另外,getcontext().prec 不同,那么输出也不同。

点评:

(1)例1可以通过提高精度获得正确结果。

(2)例2不行。

(3)对于例1,虽然可以通过提高精度获得正确值,但是,用户不确定究竟 getcontext().prec 设为多少。只能是通过实验进行猜测。正像有学者评价数学软件一样:"The multiprecision ... in Mathematica and Maple is not very useful ..., because the working precision must be specified by the user and this naturally implies some guess work"1。

(4)getcontext().prec 的默认值是28 . 因此,例1中所有运算的结果应该是保留28位十进制有效数字。

参考文献

1 Cuyt A, Verdonk B, Becuwe S, et al. A remarkable example of catastrophic cancellation unraveled. Computing, 2001, 66: 309--320

相关推荐
橙橙笔记1 小时前
具身智能的学习 - 完成一个机械臂 第1节
python·学习·机械臂·具身智能
小小张说故事1 小时前
Python 的 class 语句到底执行了什么?拆开 __prepare__、metaclass.__new__ 和那个被讲反的 __set_name__ 顺序
python
天天被压力3 小时前
【A股分钟级高频数据完全手册 #07】北交所历史分钟K线接口:京市Pro版分时批量
java·人工智能·python
天天被压力3 小时前
【A股分钟级高频数据完全手册 #08】股票日、分时数据接口对比:普通分时与Pro版差异实测
java·人工智能·python
特立独行的猫A4 小时前
AI 时代,我为什么推荐用 cj-tauri 开发桌面应用
java·后端·python
小lo想吃棒棒糖4 小时前
把机器人训练从 GPU 搬到昇腾 NPU:启元 Q1 起身动作 PPO 训练全记录
python·机器人·昇腾·启元机器人
Thanks_ks4 小时前
【第 006 讲】搭建 PyCharm 开发环境:PyCharm 的下载与安装 | 初始设置与常用配置
ide·python·pycharm·开发工具·jetbrains·开发环境·集成开发环境
青少儿编程课堂5 小时前
蓝桥杯青少组图形化省考报名倒计时·全国青少年信息素养大赛·电子学会图形化考级:校园黑白棋人机对战解析
c++·python·算法·bfs·信息学竞赛
tellmewhoisi5 小时前
nlp:知识库检索和dify知识库创建
python·自然语言处理
2601_968793146 小时前
Python Requests 轻量自动化:无需浏览器,实现真人级账号浏览模拟
开发语言·python·自动化