计算机的错误计算(一百五十六)

摘要 探讨 MATLAB 中双曲反余切函数 acoth(x) 在 附近数的计算精度问题。

Acoth(x)函数的定义为

例1. 已知 计算

直接贴图吧:

另外,16位的正确值分别为 0.1110083774360105e2 与 -0.1110083774360105e2(ISRealsoft 提供。通过计算上面定义中公式获得)。

容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中均有8位错误数字;有效数字的错误率均为 8/16 = 50% .

注:可参考计算机的错误计算(八十九)

相关推荐
0和1的舞者2 小时前
网络通信的奥秘:HTTP详解 (七)
服务器·网络·网络协议·http·okhttp·软件工程·1024程序员节
liu****5 小时前
12.线程(二)
linux·开发语言·c++·1024程序员节
民乐团扒谱机10 小时前
深入浅出理解克尔效应(Kerr Effect)及 MATLAB 仿真实现
开发语言·matlab·光学·非线性光学·克尔效应·kerr effect
小苏兮12 小时前
【把Linux“聊”明白】编译器gcc/g++与调试器gdb/cgdb:从编译原理到高效调试
java·linux·运维·学习·1024程序员节
leo__52013 小时前
MATLAB实现高光谱分类算法
支持向量机·matlab·分类
unable code13 小时前
攻防世界-Misc-掀桌子
网络安全·ctf·misc·1024程序员节
被AI抢饭碗的人1 天前
linux:io基础
1024程序员节
民乐团扒谱机1 天前
脉冲在克尔效应下的频谱展宽仿真:原理与 MATLAB 实现
开发语言·matlab·光电·非线性光学·克尔效应
yuan199971 天前
基于扩展卡尔曼滤波的电池荷电状态估算的MATLAB实现
开发语言·matlab
chao1898441 天前
多光谱图像融合:IHS、PCA与小波变换的MATLAB实现
图像处理·计算机视觉·matlab