计算机的错误计算(六十一)

摘要 解释计算机的错误计算(六十)中的错误计算原因。

计算机的错误计算(六十)中的计算可以归纳为 因此,我们只需要分析该算式。

例1. 已知 分析如何计算

首先,一个数乘以一个2,一般不会产生多少误差。另外,对于自变量为 内的数,我们假设函数 能得出正确值(比如起码15位正确数字,否则一切无意义)。

那么剩下的就只有 与 以及取余运算。

下面首先研究

类似于(五十二),利用错数进行讨论。由于 因此, 这样, 因此,函数要获得正确有效数字,必须取到 97位有效数字。什么意思?比如,若只取到 96位正确有效数字,最后1位不正确:改正确数字0为1,则函数值为

而保留 3位有效数字的正确值是 0.983 . 所以, 的整数数字不能错 1位。若错了 1位,那么函数值就是错误结果。当然这时,后面也就不用分析了。

事实上,Python 是将

变成了64位的浮点数。根本不仅仅是错了 1位,而是错了几十位。从下图可以得到验证:

上图显示,若将自变量这个大整数变为浮点数,那么输出与(六十)中没有显式变为浮点数时的输出完全相同。所以,说明 Python在做取余运算时,隐式地做了变换。

我们可以从另外一个角度进行验证:

若只取 17位有效数字,那么取余后的值与(六十)中的余数完全相同。

您认可我的分析吗?待续。

相关推荐
郝亚军2 分钟前
manifest 中 `sha256` 与 `signValue` 的作用
java·开发语言·数据结构
syagain_zsx10 分钟前
jsoncpp 使用指南:编译链接、Json::Value 取值与高频坑
c++·json·库·http格式
AI天行健14 分钟前
星宇智算无限画布如何参与节点式工作台的事实标准塑造
人工智能
譕痕16 分钟前
stripe 实例
java·开发语言·stripe·checksession
AI视频工具指南17 分钟前
文字怎么变成视频?同一地点的几个画面怎样接起来
人工智能·aigc·音视频
墨子夕24 分钟前
设计模式——Java × Python 双语言精讲 · 23 个经典模式 + 现代演进(前言篇)
java·开发语言·设计模式
骇客野人29 分钟前
Linux 全套实操方案(含目录详解、文件传输、日志、文件规范、环境变量、Java 应用部署运维)
java·linux·运维
容器魔方33 分钟前
Volcano v1.16 发布:新增 NamespaceQueue 与 fairshare,拓展 HyperNode 生态
人工智能·云原生·容器·华为云·云计算
Maydaycxc35 分钟前
实战:基于 Computer Use 实现网页元素 AI 自愈,告别固定 XPath 定位
人工智能·ai·rpa
2601_9589575942 分钟前
2026云手机哪个品牌好?五款主流品牌横向对比
人工智能·智能手机·手机