计算机的错误计算(一百六十三)

摘要 四个算式"sin(0.00024/2)^2"、"(1-cos(0.00024))/2"、"(1-sqrt(1-sin(0.00024)^2))/2"以及"sin(0.00024)^2/(2+2*sqrt(1-sin(0.00024)^2))"是等价的。但是,在 MATLAB 中计算它们,输出不完全一致:中间两个算式的输出中含有错误数字。

例1. 已知

用上述四个算式依次计算

直接贴图吧 :

事实上,16位的正确结果为 0.1439999993088000e-7(ISRealsoft 提供)。

容易看出,MATLAB的中间两个输出中,与红色数字对应的有效数字是错误数字。这样,中间两个运算的输出中均有7位错误数字;有效数字的错误率均为 7/16 = 43.75% .

注:可参考计算机的错误计算(一百二十七)。出错原因可参看(一百二十九)

参考文献

1\] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 37

相关推荐
吧啦蹦吧几秒前
java.lang.Class#isAssignableFrom(Class<?> cls)
java·开发语言
海上飞猪3 分钟前
【Python基础】python判空
python
都是蠢货8 分钟前
drop delete和truncate的区别?
java·开发语言
搬砖的kk19 分钟前
Lycium++ - OpenHarmony PC C/C++ 增强编译框架
c语言·开发语言·c++
凤凰战士芭比Q24 分钟前
Nexus仓库(maven仓库、Yum仓库、APT仓库)
java·maven
梦幻精灵_cq31 分钟前
Linux.date格式化标识“制作”极简台历 vs Python.datetime.strftime格式化“精美”日历牌(时间工具依情境选择也是一种“智慧)
linux·python
864记忆38 分钟前
Linux操作系统自带的测试内存泄漏的命令
java·linux·运维
ASS-ASH44 分钟前
视觉语言大模型Qwen3-VL-8B-Instruct概述
人工智能·python·llm·多模态·qwen·视觉语言模型·vlm
Jul1en_1 小时前
【算法】分治-归并类题目
java·算法·leetcode·排序算法
tryxr1 小时前
volatile 的作用
java·jvm·volatile·指令重排序