技术栈
错数
zaim1
1 天前
java
·
python
·
c#
·
c
·
错数
·
mpmath
计算机的错误计算（二百二十六）
摘要 前面（二十七）等谈到，对于 $\exp(x)$ 函数，若 $|x|>1$, 则数学库函数的结果中一般含有约 “$x$ 的整数位数”位错误数字。本文再探讨之。
zaim1
1 年前
java
·
c++
·
python
·
matlab
·
错数
·
等价算式
计算机的错误计算（一百六十三）
摘要 四个算式“sin(0.00024/2)^2”、“(1-cos(0.00024))/2”、“(1-sqrt(1-sin(0.00024)^2))/2”以及“sin(0.00024)^2/(2+2*sqrt(1-sin(0.00024)^2))”是等价的。但是，在 MATLAB 中计算它们，输出不完全一致：中间两个算式的输出中含有错误数字。
我是有底线的