计算机的错误计算(六十一)

摘要 解释计算机的错误计算(六十)中的错误计算原因。

计算机的错误计算(六十)中的计算可以归纳为 因此,我们只需要分析该算式。

例1. 已知 分析如何计算

首先,一个数乘以一个2,一般不会产生多少误差。另外,对于自变量为 内的数,我们假设函数 能得出正确值(比如起码15位正确数字,否则一切无意义)。

那么剩下的就只有 与 以及取余运算。

下面首先研究

类似于(五十二),利用错数进行讨论。由于 因此, 这样, 因此,函数要获得正确有效数字,必须取到 97位有效数字。什么意思?比如,若只取到 96位正确有效数字,最后1位不正确:改正确数字0为1,则函数值为

而保留 3位有效数字的正确值是 0.983 . 所以, 的整数数字不能错 1位。若错了 1位,那么函数值就是错误结果。当然这时,后面也就不用分析了。

事实上,Python 是将

变成了64位的浮点数。根本不仅仅是错了 1位,而是错了几十位。从下图可以得到验证:

上图显示,若将自变量这个大整数变为浮点数,那么输出与(六十)中没有显式变为浮点数时的输出完全相同。所以,说明 Python在做取余运算时,隐式地做了变换。

我们可以从另外一个角度进行验证:

若只取 17位有效数字,那么取余后的值与(六十)中的余数完全相同。

您认可我的分析吗?待续。

相关推荐
中伟视界1 小时前
危化罐区“双预警“方案解析:AI气体监测布控球+AI布控球,罐区作业怎么管?
人工智能
kaixin_啊啊1 小时前
【零基础学AI】第 3 章课后练习与答案
人工智能
Maynor9961 小时前
Claude Opus 5.5 最强可视化案例合集:114 精选 + 1000+ 完整清单(含提示词)
人工智能·开源·claude
u1301301 小时前
AI 日报(2026年10月6日)
人工智能
java、iOS、Vue1 小时前
Maven antrun vs Jenkins 脚本组装 deb的优缺点、适用场景
java·jenkins·maven
小师兄吃牛肉1 小时前
C语言基本语法汇总
c语言
hudd6681 小时前
JavaEE 初阶 - 多线程(初阶)
java·开发语言·java-ee
黑妹天下第一乖1 小时前
第 08 讲:阿加犀 AidGenSE 端侧大模型服务化与 OpenAI 兼容接口
人工智能·嵌入式硬件·深度学习·机器人·iot
I Am a robert girl1 小时前
稀有事件估计的迭代去对齐:从源码视角拆解重要性采样新范式
开发语言·python·机器学习·重要性采样·蒙特卡洛方法·稀有事件估计
天若有情6731 小时前
开源|Comfort Lang v1.0.1,一款主打清爽交互的新型命令式编程语言
python·开源·交互·编程语言·项目分享·repl·comfort lang