python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
不争先.10 分钟前
Pycharm&&Flask 学习心得:路由(3-4)
后端·python·flask
aiweker16 分钟前
python web flask专题-Flask入门指南:从安装到核心功能详解
前端·python·flask
一个天蝎座 白勺 程序猿23 分钟前
Python爬虫(35)Python爬虫高阶:基于Docker集群的动态页面自动化采集系统实战
爬虫·python·docker
伍贰什丿27 分钟前
python学习day2:运算符+优先级
开发语言·python·学习
KerwinChou_CN41 分钟前
自由开发者计划 001:创建一个用于查看 Jupyter Notebook 的谷歌浏览器插件 Jupyter Peek
ide·python·jupyter·plotly·scikit-learn
明月与玄武1 小时前
8 种快速易用的Python Matplotlib数据可视化方法
python·信息可视化·matplotlib
伍贰什丿1 小时前
python学习day2:进制+码制+逻辑运算符
python·学习
那雨倾城1 小时前
使用 OpenCV 实现“随机镜面墙”——多镜片密铺的哈哈镜效果
人工智能·python·opencv·计算机视觉
waterHBO2 小时前
安装 tensorflow-2.10.0 支持 gpu
人工智能·python·tensorflow
pk_xz1234562 小时前
python 实现一个完整的基于Python的多视角三维重建系统,包含特征提取与匹配、相机位姿估计、三维重建、优化和可视化等功能
开发语言·python·数码相机