计算机的错误计算(一百八十六)

摘要 就上节(即(一百八十五))内容,有读者来信,建议用另外一个大模型计算。本节详细讲解该大模型的对错,特别是涉及 Python Decimal的内容以及泰勒展式内容。

例1. 已知

用大模型计算

下面是与第三个大模型的对话。



以上为大模型的输出。

点评:

(1)大模型使用 Python 的 decimal 模块来确保高精度计算。这比上节的大模型有一点进步。

(2)由于 Decimal中没有tan()、sin()等方法或函数,因此不得不先调用 math中函数。

(3)但是,math中的 tan、sin、sqrt函数,其正确的有效位数有个上限:一般不会超过16位有效数字。这个由 double类型决定。比如,math.sin(190),虽然在内存中储存有0.9977992786806002545318960983422584831714630126953125(共52位有效数字),但是,只有前16位数字 "9977992786806002"是正确的。

(4)上述上限16决定了程序结果的短板:正确的有效数字位数不会超过它,虽然 getcontext().prec = 50 . 实际上,"getcontext().prec = 50"是白白设置了。

(5)"getcontext().prec = 50" 的注解:"设置精度为50位小数" 是错误的;应该是设置50位有效数字。

(6)同样,由于使用了 math, 那么 Decimal也是白白被浪费了。

(7)照这样计算下去,那么 tan(x0)与 sin(x0)均只有16位正确数字。而它们这些数字,即32位数字,几乎全部对应位置的数字相同。因此,相减后,正确数字所剩无几。再进行相除后,当然仍然没有几位正确数字。

(8)在Python 3.12中执行大模型的代码,则输出为50位的值:-9.7938196768552311641126445270730663791431933912047E-22 . 这样,正如所料,正确数字只有2位。因为,16位的正确结果为 -0.9765626220703239e-21(ISRealsoft 提供)。

(9)大模型似乎也知道这一点。因此,它利用泰勒展式进行了化简。它的化简过程基本是正确的。

(10)它的结果也基本正确。只有最后一位数字是错误的:不是'5', 而应是'6' .

(11)若是结果保留16位有效数字,那么该怎么办呢?

(12)首先,分母、分子均需保留最少16位有效数字。

(13)对于分母,在其化简中,应保留 。因为, 的指数是;平方后也仅仅是,即使再除以 ,也才。这样的数与1相加减后,16位的结果中还保留3位左右呢。

(14)当然,对于分母,更不应该删去。

(15)同样,分子中的 tan(x)与 sin(x)均应保留 项: 与

(16)最终,化简后应为

(17)这样,代入并相除以后,就会有16位正确有效数字。当然,最后一行的半句话"运行上述 Python 代码将给出更精确的结果。"是错误的。

(18)另外,math中的 sin等函数有时会输出错误结果。比如,自变量比较大时。

相关推荐
会飞锦鲤1 小时前
工业AI视觉检测项目完整实施方案
人工智能·深度学习·视觉检测·缺陷检测·模型训练·ai项目·工业应用
优秘智能1 小时前
优秘智能增长智脑视角下的AI试点与验收
人工智能·知识管理·企业应用
天诰1 小时前
SA-K-11 检索会消失吗与四个未解问题
java·服务器·人工智能·python·机器学习·ai编程
中烟创新1 小时前
中烟创新×某电力公司 | AI大模型重构电力合规反事故演习
人工智能·重构
七夜zippoe1 小时前
Agent 优雅降级实战:模型不可用时的后备方案设计
ai·agent·模型·降级·后备方案
benchmark_cc2 小时前
用 QuantDash 读取美股行情:AAPL.US 的运行前检查、排错顺序与数据校验清单
python·数据分析·pandas·量化交易·股票数据·quantdash
陈嘿萌2 小时前
TIP 2026 | 不再混成一张! RealFusion从模态不变性重想图像融合
图像处理·人工智能·深度学习·计算机视觉·学术研究与理论基础
正在走向自律3 小时前
AI Agent 落地这一年:从“能跑起来”到“敢放出去”
大数据·人工智能·ai agent·智能体·mcp·a2a
不惑_3 小时前
理解启元,从论文开始,RT-2 55B 只有 1~3Hz,OpenVLA 7B 反而高 16.5%——三代 VLA 论文解读,动作表示才是分水岭
人工智能·论文解读
IT_陈寒3 小时前
Redis内存暴涨,没想到是AOF重写捣的鬼
前端·人工智能·后端