为什么数学常数在 powershell 中以不同的方式截断?

问题

在powershell中做一些命令行数学运算,遇到了以下好奇的事情。

shell 复制代码
# "{0:f64}" -f ([Math]::PI); "{0:f48}" -f ([Math]::PI)
3.1415926535897931159979634685441851615905761718750000000000000000
3.141592653589793115997963468544185161590576171875

# "{0:f64}" -f ([Math]::E); "{0:f51}" -f ([Math]::E)
2.7182818284590450907955982984276488423347473144531250000000000000
2.718281828459045090795598298427648842334747314453125

为什么e和π被截断为不同的十进制长度(51和48)?

为什么它不更接近某些偶数个字或字节(如16,32,64)?

问题解决

尽管 Pi 一直超越3.141592653589793,但那些只是幻想数字,因为 Pi 的真实值的下一位数字是2384...,但 PowerShellMath给你1159...。

Math.Pi前 16 位小数是精确的,就像 一样Math.e。

shell 复制代码
[Math].pi (64):
3.141592653589793 1159979634685441851615905761718750000000000000000
Actual Pi:
3.141592653589793 2384626433832795028841971693993751058209749445923...

[Math].e (64):
2.718281828459045 0907955982984276488423347473144531250000000000000
Actual e:
2.718281828459045 2353602874713526624977572470936999595749669676277...

如果将前 16 位数字的字符串转换为以下内容,则会获得这两个值double:

shell 复制代码
(sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"3.141592653589793"
3.1415926535897931159979634685441851615905761718750000000000000000
(sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"2.718281828459045"
2.7182818284590450907955982984276488423347473144531250000000000000

因此,它们实际上对于相同数量的初始数字是准确的,并且第 16 位数字之后的两个值都不可信。

之所以在转换为浮点数时会产生不同长度的数字字符串,是因为浮点数必须像任何数字一样使用位来定义,但与整数不同,我们无法准确定义每个实数。您可以double在其他地方查找浮点数(如 a)的详细编码方式,这将解释长度差异。

相关推荐
bysking7 小时前
GitHub Actions 快速入门+场景实践案例
前端·后端·github
广州华水科技7 小时前
单北斗GNSS变形监测系统在大坝安全维护中的重要性
前端
anyup7 小时前
自带 uni-app x 页面级能力,uView Pro X 8 个开箱即用的工具函数
前端·vue.js·uni-app
涛涛ing7 小时前
别拿 Chrome 跑通了就提测:把这段 AI 写的代码发到 Safari 上,我差点丢了工作
前端
墨林陌7 小时前
用 AI 给娃做了一个识物游戏:一份 2.3MB 的单文件 HTML,126 张卡片、三种玩法,手机平板打开就能玩
前端
Hilaku7 小时前
Claude Code 过夜跑长任务实战:tmux、权限、验收,以及我为什么换到 ApexOne
前端·javascript·程序员
程序员大阳8 小时前
副队长ES6+教程(14)--手写Promise来加深理解
前端·javascript·es6·源码·promise·手写·深层
顧棟8 小时前
【ES实战】 索引模板「可追溯、可校验」:一种模板治理的工程化思路
java·数据库·elasticsearch
J船长8 小时前
从 Trellis 看 AI 研发工具选型:OpenSpec、Spec Kit 与 Harness 如何配合
前端
对象存储与RustFS8 小时前
对象锁遇上版本化:删掉的对象还在,真删的又删不掉
后端·docker·云原生