计算机的错误计算(一百五十六)

摘要 探讨 MATLAB 中双曲反余切函数 acoth(x) 在 附近数的计算精度问题。

Acoth(x)函数的定义为

例1. 已知 计算

直接贴图吧:

另外,16位的正确值分别为 0.1110083774360105e2 与 -0.1110083774360105e2(ISRealsoft 提供。通过计算上面定义中公式获得)。

容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中均有8位错误数字;有效数字的错误率均为 8/16 = 50% .

注:可参考计算机的错误计算(八十九)

相关推荐
惜.己5 小时前
Jmeter中的前置处理器(二)
测试工具·jmeter·1024程序员节
惜.己8 小时前
Jmeter中的监听器(二)
测试工具·jmeter·1024程序员节
三月七(爱看动漫的程序员)18 小时前
LM2 : A Simple Society of Language Models Solves Complex Reasoning
人工智能·gpt·语言模型·自然语言处理·chatgpt·langchain·1024程序员节
MATLAB滤波18 小时前
MATLAB中的绘图技巧
开发语言·matlab
惜.己21 小时前
Jmeter中的监听器(四)
测试工具·jmeter·1024程序员节
惜.己1 天前
Jmeter中的前置处理器(一)
测试工具·jmeter·1024程序员节
工作不忙1 天前
c++调用MATLAB engine无法调用到自定义MATLAB函数c++调用MATLAB simulink文件.mdl.slx使用引擎
c++·windows·matlab
MATLAB滤波1 天前
二维、三维情况下的锚点优选方法
算法·matlab·定位
lzb_kkk1 天前
【JavaEE】文件io
java·开发语言·java-ee·1024程序员节