计算机的错误计算(一百一十四)

摘要 回复读者提问,就计算机的错误计算(六)中案例,讨论其另外一种形式: 的错误计算问题。

一读者来信说,在计算机的错误计算(六)中,使用了两种计算方法。实际上,还有另外一种更为简便的方法:

下面探讨第3种方法的计算精度。

例1. 已知 计算

不妨在 Python 中用 ** 运算与 math 库中 pow 函数计算,则有:

在线运行Rust程序:

rust 复制代码
fn main() {
    let x = 0.99993;
    let result = power(x - 1.0, 4);

    println!("{}", result);
}

fn power(base: f64, exponent: u32) -> f64 {
    base.powi(exponent as i32)
}

则输出同样的结果(虽然形式不同):0.000000000000000024010000000019886 .

然而,准确值是 0.2401e-16(ISRealsoft 提供)。这样,它们有效数字的错误率均为 4/16 = 25% 或 5/17 = 29.4% .

点评:显然,与前两种方法相比,精度提高许多。但是,它还是有错误数字。特别是,若自变量换一个别的数,则可能增加错误数字。比如,令自变量为 0.9999999999999999(注:该数仍在定义域或程序的要求范围内),则 Python 的输出中只含有1位正确数字。

相关推荐
毕设源码-钟学长4 分钟前
【开题答辩全过程】以 火车票订票系统为例,包含答辩的问题和答案
java
雾岛听蓝6 分钟前
C++异常处理
c++·经验分享·笔记
牛马大师兄7 分钟前
数据结构复习 | 循环链表
c语言·数据结构·c++·笔记·链表
七夜zippoe8 分钟前
安全测试实战:OWASP Top 10全面防护指南
python·sql·xss·安全测试·安全框架·核心漏洞
小刘同学-很乖10 分钟前
ESP32从入门到精通(全)
mcu·物联网·esp32·c·iot
西门吹雪分身11 分钟前
JUC之可重入锁
java·juc·死锁·公平锁·非公平锁
A懿轩A12 分钟前
【Java 基础编程】Java 正则表达式实战:Pattern/Matcher、元字符与常用正则,验证与提取必备
java·开发语言·正则表达式
予枫的编程笔记17 分钟前
【Kafka进阶篇】Spring Boot Kafka客户端踩坑记:自定义序列化器+ContainerFactory调优指南
java·spring boot·kafka·java21·并发消费·kafka客户端·自定义序列化器
黎雁·泠崖17 分钟前
Java 集合入门:Collection & List 接口超详细讲解
java·list
王老师青少年编程21 分钟前
csp信奥赛C++之约数研究
数据结构·c++·数学·算法·csp·信奥赛·约数研究