python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
m0_748554812 小时前
golang如何实现用户订阅偏好管理_golang用户订阅偏好管理实现总结
jvm·数据库·python
smj2302_796826523 小时前
解决leetcode第3911题.移除子数组元素后第k小偶数
数据结构·python·算法·leetcode
阿正呀3 小时前
Redis怎样实现本地缓存的高效失效通知
jvm·数据库·python
2501_901200534 小时前
mysql如何设置InnoDB引擎参数_优化innodb_buffer_pool
jvm·数据库·python
_.Switch4 小时前
东方财富股票数据JS逆向:secids字段和AES加密实战
开发语言·前端·javascript·网络·爬虫·python·ecmascript
Mr_sst4 小时前
Claude Code 部署与使用保姆级教程(2026 最新)
python·ai
瞎某某Blinder4 小时前
DFT学习记录[6]基于 HES06的能带计算+有效质量计算
python·学习·程序人生·数据挖掘·云计算·学习方法
m0_495496415 小时前
mysql处理复杂SQL性能_InnoDB优化器与MyISAM差异
jvm·数据库·python
forEverPlume6 小时前
PHP怎么使用Eloquent Attribute Composition属性组合_Laravel通过组合构建复杂属性【方法】
jvm·数据库·python
Aleeeeex6 小时前
RAG 那点事:从 8 份企业文档到能用的问答系统,全过程拆给你看
人工智能·python·ai编程