计算机的错误计算(一百一十四)

摘要 回复读者提问,就计算机的错误计算(六)中案例,讨论其另外一种形式: 的错误计算问题。

一读者来信说,在计算机的错误计算(六)中,使用了两种计算方法。实际上,还有另外一种更为简便的方法:

下面探讨第3种方法的计算精度。

例1. 已知 计算

不妨在 Python 中用 ** 运算与 math 库中 pow 函数计算,则有:

若在线运行Rust程序:

rust 复制代码
fn main() {
    let x = 0.99993;
    let result = power(x - 1.0, 4);

    println!("{}", result);
}

fn power(base: f64, exponent: u32) -> f64 {
    base.powi(exponent as i32)
}

则输出同样的结果(虽然形式不同):0.000000000000000024010000000019886 .

然而,准确值是 0.2401e-16(ISRealsoft 提供)。这样,它们有效数字的错误率均为 4/16 = 25% 或 5/17 = 29.4% .

点评:显然,与前两种方法相比,精度提高许多。但是,它还是有错误数字。特别是,若自变量换一个别的数,则可能增加错误数字。比如,令自变量为 0.9999999999999999(注:该数仍在定义域或程序的要求范围内),则 Python 的输出中只含有1位正确数字。

相关推荐
AI你一生一世4 小时前
不止于时序存储:DolphinDB 如何成为 AI 时代的工业智能底座
java·人工智能·struts·时序数据库·工业智能·dolphindb·ai基础设施
belldeep4 小时前
python:genesis-world, Genesis-Embodied-AI
人工智能·python·ai·genesis
布莱克6054 小时前
C/C++ 中变量的声明与定义:区别、联系与常见误区
c语言·开发语言·c++·声明·定义
云-缩影4 小时前
拆解 AI 图像生成应用的后端架构:ECS、OSS 和大模型 API 怎么配合
java·spring boot·后端
瑞克-桑切斯4 小时前
7、MySQL 慢查询排查与优化实战指南
java·服务器·数据库
benchmark_cc5 小时前
A 股、港股、美股如何建立统一的标的主数据格式?
开发语言·python·数据分析·pandas·量化交易·股票数据·quantdash
维克兜率天5 小时前
【维克】趋势型CTA:期货市场的“追涨杀跌“
人工智能·python
取名真是6 小时前
Python 算法知识点从基础到进阶
开发语言·python·算法
梦想不只是梦与想6 小时前
PyTorch、CPU、GPU、CUDA
人工智能·pytorch·python·深度学习·机器学习·cuda
数字融合6 小时前
透明化视频孪生危化安全管控解决方案
人工智能·python·安全