为什么数学常数在 powershell 中以不同的方式截断?

问题

powershell中做一些命令行数学运算,遇到了以下好奇的事情。

shell 复制代码
# "{0:f64}" -f ([Math]::PI); "{0:f48}" -f ([Math]::PI)
3.1415926535897931159979634685441851615905761718750000000000000000
3.141592653589793115997963468544185161590576171875

# "{0:f64}" -f ([Math]::E); "{0:f51}" -f ([Math]::E)
2.7182818284590450907955982984276488423347473144531250000000000000
2.718281828459045090795598298427648842334747314453125

为什么eπ被截断为不同的十进制长度(5148)?

为什么它不更接近某些偶数个字或字节(如16,32,64)?

问题解决

尽管 Pi 一直超越3.141592653589793,但那些只是幻想数字,因为 Pi 的真实值的下一位数字是2384...,但 PowerShell[Math]给你1159...。

Math\].Pi前 16 位小数是精确的,就像 一样\[Math\].e。 ```shell [Math].pi (64): 3.141592653589793 1159979634685441851615905761718750000000000000000 Actual Pi: 3.141592653589793 2384626433832795028841971693993751058209749445923... [Math].e (64): 2.718281828459045 0907955982984276488423347473144531250000000000000 Actual e: 2.718281828459045 2353602874713526624977572470936999595749669676277... ``` 如果将前 16 位数字的字符串转换为以下内容,则会获得这两个值double: ```shell (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"3.141592653589793" 3.1415926535897931159979634685441851615905761718750000000000000000 (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"2.718281828459045" 2.7182818284590450907955982984276488423347473144531250000000000000 ``` 因此,它们实际上对于相同数量的初始数字是准确的,并且第 16 位数字之后的两个值都不可信。 之所以在转换为浮点数时会产生不同长度的数字字符串,是因为浮点数必须像任何数字一样使用位来定义,但与整数不同,我们无法准确定义每个实数。您可以double在其他地方查找浮点数(如 a)的详细编码方式,这将解释长度差异。

相关推荐
叫我詹躲躲1 分钟前
Vue 3 动态组件详解
前端·vue.js
叫我詹躲躲1 分钟前
基于 Three.js 的 3D 地图可视化:核心原理与实现步骤
前端·three.js
周杰伦_Jay1 分钟前
【Go语言面试题核心详细解析】基础语法、并发编程、内存管理、接口、错误处理
开发语言·后端·golang
Jianghong Jian1 分钟前
安恒面经(电话面试)
面试·职场和发展
TimelessHaze2 分钟前
算法复杂度分析与优化:从理论到实战
前端·javascript·算法
李玮豪Jimmy2 分钟前
Day42:单调栈part2(42.接雨水、84.柱状图中最大的矩形)
java·算法
福尔摩斯张2 分钟前
Linux Kernel 设计思路与原理详解:从“一切皆文件“到模块化架构(超详细)
java·linux·运维·开发语言·jvm·c++·架构
yaoh.wang3 分钟前
力扣(LeetCode) 58: 最后一个单词的长度 - 解法思路
python·程序人生·算法·leetcode·面试·职场和发展·跳槽
深圳市恒讯科技4 分钟前
俄罗斯服务器常见故障汇总及排查方法
运维·服务器
爱吃番茄鼠骗4 分钟前
Linux操作系统———TCP网络编程
linux·网络