为什么数学常数在 powershell 中以不同的方式截断?

问题

powershell中做一些命令行数学运算,遇到了以下好奇的事情。

shell 复制代码
# "{0:f64}" -f ([Math]::PI); "{0:f48}" -f ([Math]::PI)
3.1415926535897931159979634685441851615905761718750000000000000000
3.141592653589793115997963468544185161590576171875

# "{0:f64}" -f ([Math]::E); "{0:f51}" -f ([Math]::E)
2.7182818284590450907955982984276488423347473144531250000000000000
2.718281828459045090795598298427648842334747314453125

为什么eπ被截断为不同的十进制长度(5148)?

为什么它不更接近某些偶数个字或字节(如16,32,64)?

问题解决

尽管 Pi 一直超越3.141592653589793,但那些只是幻想数字,因为 Pi 的真实值的下一位数字是2384...,但 PowerShell[Math]给你1159...。

Math\].Pi前 16 位小数是精确的,就像 一样\[Math\].e。 ```shell [Math].pi (64): 3.141592653589793 1159979634685441851615905761718750000000000000000 Actual Pi: 3.141592653589793 2384626433832795028841971693993751058209749445923... [Math].e (64): 2.718281828459045 0907955982984276488423347473144531250000000000000 Actual e: 2.718281828459045 2353602874713526624977572470936999595749669676277... ``` 如果将前 16 位数字的字符串转换为以下内容,则会获得这两个值double: ```shell (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"3.141592653589793" 3.1415926535897931159979634685441851615905761718750000000000000000 (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"2.718281828459045" 2.7182818284590450907955982984276488423347473144531250000000000000 ``` 因此,它们实际上对于相同数量的初始数字是准确的,并且第 16 位数字之后的两个值都不可信。 之所以在转换为浮点数时会产生不同长度的数字字符串,是因为浮点数必须像任何数字一样使用位来定义,但与整数不同,我们无法准确定义每个实数。您可以double在其他地方查找浮点数(如 a)的详细编码方式,这将解释长度差异。

相关推荐
周杰伦_Jay14 小时前
【Java虚拟机(JVM)全面解析】从原理到面试实战、JVM故障处理、类加载、内存区域、垃圾回收
java·jvm
摇滚侠15 小时前
Spring Boot 3零基础教程,IOC容器中组件的注册,笔记08
spring boot·笔记·后端
黑云压城After16 小时前
H5使用环信实现视频或语音通话
前端·javascript·vue.js
未来之窗软件服务17 小时前
自己写算法(九)网页数字动画函数——东方仙盟化神期
前端·javascript·算法·仙盟创梦ide·东方仙盟·东方仙盟算法
程序员小凯17 小时前
Spring Boot测试框架详解
java·spring boot·后端
路由侠内网穿透17 小时前
本地部署开源持续集成和持续部署系统 Woodpecker CI 并实现外部访问
服务器·网络·windows·ci/cd·开源
程序猿小三17 小时前
Linux下基于关键词文件搜索
linux·运维·服务器
豐儀麟阁贵17 小时前
基本数据类型
java·算法
_extraordinary_18 小时前
Java SpringMVC(二) --- 响应,综合性练习
java·开发语言
虚拟指尖18 小时前
Ubuntu编译安装COLMAP【实测编译成功】
linux·运维·ubuntu