python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
树獭叔叔1 分钟前
Python 多进程与多线程:深入理解与实践指南
后端·python
CodeCraft Studio1 小时前
国产化PDF处理控件Spire.PDF教程:Java 提取 PDF 图片,高质量提取与图片过滤技巧
java·python·pdf·国产化·文档处理·spire·pdf图片提取
去伪存真1 小时前
前端get到的新技能--手把手教你使用Python实现查询基金年度排名功能
前端·python
PixelMind1 小时前
【IQA技术专题】DISTS代码讲解
图像处理·人工智能·python·算法·iqa
JavaEdge在掘金1 小时前
Git工作面试必知必会操作-命令行篇
python
香蕉可乐荷包蛋1 小时前
一次性接收大量上传图片,后端优化方式
后端·python
山烛2 小时前
逻辑回归详解:从数学原理到实际应用
python·算法·机器学习·逻辑回归
June bug2 小时前
将本地项目关联并推送到已有的 GitHub 仓库
python·github
阿加犀智能3 小时前
高通手机跑AI系列之——实时头发识别
python·ai编程
北京_宏哥3 小时前
🔥Python零基础从入门到精通详细教程10 - python数据类型之数字(Number)-整型(int)详解
前端·python·面试