计算机的错误计算(一百六十三)

摘要 四个算式"sin(0.00024/2)^2"、"(1-cos(0.00024))/2"、"(1-sqrt(1-sin(0.00024)^2))/2"以及"sin(0.00024)^2/(2+2*sqrt(1-sin(0.00024)^2))"是等价的。但是,在 MATLAB 中计算它们,输出不完全一致:中间两个算式的输出中含有错误数字。

例1. 已知

用上述四个算式依次计算

直接贴图吧 :

事实上,16位的正确结果为 0.1439999993088000e-7(ISRealsoft 提供)。

容易看出,MATLAB的中间两个输出中,与红色数字对应的有效数字是错误数字。这样,中间两个运算的输出中均有7位错误数字;有效数字的错误率均为 7/16 = 43.75% .

注:可参考计算机的错误计算(一百二十七)。出错原因可参看(一百二十九)

参考文献

1\] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 37

相关推荐
Drifter_yh3 分钟前
「JVM」 Java 类加载机制与双亲委派模型深度解析
java·开发语言·jvm
D_evil__5 分钟前
【Effective Modern C++】第六章 lambda表达式:34. 考虑lambda而非bind
c++
马猴烧酒.7 分钟前
【JAVA算法|hot100】数组类型题目详解笔记
java·笔记
水木姚姚10 分钟前
string类(C++)
开发语言·c++·windows·vscode·开发工具
范什么特西11 分钟前
Tomcat加Maven配置
java·tomcat·maven
方便面不加香菜11 分钟前
C++ 类和对象(一)
开发语言·c++
人生导师yxc12 分钟前
IDE缓存配置等位置更改(自存)
java·ide·intellij-idea
indexsunny12 分钟前
互联网大厂Java面试实战:Spring Boot与微服务在电商场景的应用
java·spring boot·微服务·面试·kafka·prometheus·电商
甲枫叶14 分钟前
【claude产品经理系列13】核心功能实现——需求的增删改查全流程
java·前端·人工智能·python·产品经理·ai编程
时艰.14 分钟前
分布式事务在电商项目中的应用
java·分布式