为什么数学常数在 powershell 中以不同的方式截断?

问题

powershell中做一些命令行数学运算,遇到了以下好奇的事情。

shell 复制代码
# "{0:f64}" -f ([Math]::PI); "{0:f48}" -f ([Math]::PI)
3.1415926535897931159979634685441851615905761718750000000000000000
3.141592653589793115997963468544185161590576171875

# "{0:f64}" -f ([Math]::E); "{0:f51}" -f ([Math]::E)
2.7182818284590450907955982984276488423347473144531250000000000000
2.718281828459045090795598298427648842334747314453125

为什么eπ被截断为不同的十进制长度(5148)?

为什么它不更接近某些偶数个字或字节(如16,32,64)?

问题解决

尽管 Pi 一直超越3.141592653589793,但那些只是幻想数字,因为 Pi 的真实值的下一位数字是2384...,但 PowerShell[Math]给你1159...。

Math\].Pi前 16 位小数是精确的,就像 一样\[Math\].e。 ```shell [Math].pi (64): 3.141592653589793 1159979634685441851615905761718750000000000000000 Actual Pi: 3.141592653589793 2384626433832795028841971693993751058209749445923... [Math].e (64): 2.718281828459045 0907955982984276488423347473144531250000000000000 Actual e: 2.718281828459045 2353602874713526624977572470936999595749669676277... ``` 如果将前 16 位数字的字符串转换为以下内容,则会获得这两个值double: ```shell (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"3.141592653589793" 3.1415926535897931159979634685441851615905761718750000000000000000 (sandbox) PS C:\Users\grismar> "{0:f64}" -f [double]"2.718281828459045" 2.7182818284590450907955982984276488423347473144531250000000000000 ``` 因此,它们实际上对于相同数量的初始数字是准确的,并且第 16 位数字之后的两个值都不可信。 之所以在转换为浮点数时会产生不同长度的数字字符串,是因为浮点数必须像任何数字一样使用位来定义,但与整数不同,我们无法准确定义每个实数。您可以double在其他地方查找浮点数(如 a)的详细编码方式,这将解释长度差异。

相关推荐
敲敲了个代码4 分钟前
如何优化批量图片上传?队列机制+分片处理+断点续传三连击!(附源码)
前端·javascript·学习·职场和发展·node.js
@AfeiyuO10 分钟前
Vue 引入全局样式scss
前端·vue·scss
光影少年12 分钟前
flex布局和grid布局区别,实现两边固定布局中间自适应
前端·css3·web·ai编程
我尽力学24 分钟前
面试 总结
java·spring boot·面试
大熊背27 分钟前
多核架构中,RTOS小核跑sensor 的normal模式,大核linux核跑WDR模式,将小核的曝光时间映射到WDR模式中的曝光时间的方法
linux·自动曝光·wdr
爬台阶的蚂蚁28 分钟前
Spring AI Alibaba基础概念
java·spring·ai
计算机学姐37 分钟前
基于SpringBoot的演唱会抢票系统
java·spring boot·后端·spring·tomcat·intellij-idea·推荐算法
全栈测试笔记41 分钟前
异步函数与异步生成器
linux·服务器·前端·数据库·python
huohuopro42 分钟前
Mybatis的七种传参方式
java·开发语言·mybatis
Lee_SmallNorth43 分钟前
变态需求之【角色不同访问数据库的用户不同】
java·开发语言·数据库