计算机的错误计算(一百六十三)

摘要 四个算式"sin(0.00024/2)^2"、"(1-cos(0.00024))/2"、"(1-sqrt(1-sin(0.00024)^2))/2"以及"sin(0.00024)^2/(2+2*sqrt(1-sin(0.00024)^2))"是等价的。但是,在 MATLAB 中计算它们,输出不完全一致:中间两个算式的输出中含有错误数字。

例1. 已知

用上述四个算式依次计算

直接贴图吧 :

事实上,16位的正确结果为 0.1439999993088000e-7(ISRealsoft 提供)。

容易看出,MATLAB的中间两个输出中,与红色数字对应的有效数字是错误数字。这样,中间两个运算的输出中均有7位错误数字;有效数字的错误率均为 7/16 = 43.75% .

注:可参考计算机的错误计算(一百二十七)。出错原因可参看(一百二十九)

参考文献

1\] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 37

相关推荐
隔山打牛牛几秒前
Spring 整合 MyBatis 深度详解(原理 + 实操 + 源码级解析)
java·spring·mybatis
CM莫问2 分钟前
详解机器学习经典模型(原理及应用)——岭回归
人工智能·python·算法·机器学习·回归
华仔啊3 分钟前
SpringBoot 动态菜单权限系统设计的企业级解决方案
java·后端
SunnyRivers3 分钟前
Python打包指南:编写你的pyproject.toml
python·打包·toml
S***q3775 分钟前
Java进阶-在Ubuntu上部署SpringBoot应用
java·spring boot·ubuntu
棋啊_Rachel13 分钟前
Spring Boot深度解析:从零开始构建企业级应用
java·spring boot·后端
小王不爱笑13223 分钟前
代码生成器
java·mybatis
计算机毕设小月哥28 分钟前
【Hadoop+Spark+python毕设】中式早餐店订单数据分析与可视化系统、计算机毕业设计、包括数据爬取、数据分析、数据可视化
后端·python
Vanranrr28 分钟前
C++临时对象与悬空指针:一个导致资源加载失败的隐藏陷阱
服务器·c++·算法
n***265629 分钟前
Python连接SQL SEVER数据库全流程
数据库·python·sql