计算机精度导致各种误差,大数吃小数

如果 p ∗ p^* p∗是p的近似, ∣ p ∗ − p ∣ |p^*-p| ∣p∗−p∣是绝对误差, ∣ p ∗ − p ∣ / ∣ p ∣ |p^*-p|/|p| ∣p∗−p∣/∣p∣是相对误差

舍入误差,就是数据表示精度不足带来的误差

a=0.1234564≈0.123456=fl(a)

b=0.1234546≈0.123455=fl(b)

在上面发生了舍入误差

fl(a)-fl(b)=0.000001

a-b=0.0000018

所以在计算a-b时绝对误差是0.0000008

但是想对误差是0.44

从绝对误差的角度看,差异很小,但是从相对误差的角度来看误差就非常大了

大数吃小数:

如果精度有限可能会发生下面的情况
100000000 + 0.5 = 100000000 100000000+0.5=100000000 100000000+0.5=100000000
100000000 + 0.5 − 100000000 = 0 100000000+0.5-100000000=0 100000000+0.5−100000000=0
( 100000000 + 0.5 − 100000000 ) ∗ 100000000 = 0 (100000000+0.5-100000000)*100000000=0 (100000000+0.5−100000000)∗100000000=0

这和真实结果差了很多,因为精度不够,大数加小数的时候把小数吃掉了,导致后续结果都出现问题,一个办法是交换顺序
100000000 − 100000000 = 0 100000000-100000000=0 100000000−100000000=0
100000000 − 100000000 + 0.5 = 0.5 100000000-100000000+0.5=0.5 100000000−100000000+0.5=0.5
( 100000000 − 100000000 + 0.5 ) − 100000000 = 50000000 (100000000-100000000+0.5)-100000000=50000000 (100000000−100000000+0.5)−100000000=50000000

相关推荐
JINX的诅咒15 小时前
CORDIC算法:三角函数的硬件加速革命——从数学原理到FPGA实现的超高效计算方案
算法·数学建模·fpga开发·架构·信号处理·硬件加速器
2501_9068012021 小时前
BY组态-低代码web可视化组件
前端·物联网·低代码·数学建模·前端框架
2501_906801481 天前
BY组态-低代码web可视化组件
前端·物联网·低代码·数学建模·编辑器·web
电科_银尘2 天前
【Matlab】-- 基于MATLAB的美赛常用多种算法
算法·数学建模·matlab
烟锁池塘柳03 天前
【数学建模】动态规划算法(Dynamic Programming,简称DP)详解与应用
算法·数学建模·动态规划
HR Zhou4 天前
群体智能优化算法-大猩猩部落优化算法(Gorilla Troops Optimizer, GTO,含Matlab源代码)
算法·机器学习·数学建模·matlab·群体智能优化
烟锁池塘柳04 天前
【数学建模】(启发式算法)遗传算法:自然选择的计算模型
算法·数学建模·启发式算法
2501_906800764 天前
低代码配置式组态软件-BY组态
前端·后端·物联网·低代码·数学建模·web
烟锁池塘柳04 天前
【数学建模】(智能优化算法)元胞自动机在数学建模中的应用
算法·数学建模
人大博士的交易之路4 天前
龙虎榜——20250328
大数据·人工智能·数学建模·数据挖掘·程序员创富·涨停回马枪