python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
!chen13 小时前
Error: error:0308010C:digital envelope routines::unsupporte
python
小北方城市网13 小时前
分布式锁实战指南:从选型到落地,避开 90% 的坑
java·数据库·redis·分布式·python·缓存
xiaolyuh12313 小时前
【XXL-JOB】 GLUE模式 底层实现原理
java·开发语言·前端·python·xxl-job
likuolei13 小时前
Spring AI框架完整指南
人工智能·python·spring
二哈喇子!13 小时前
PyTorch生态与昇腾平台适配:环境搭建与详细安装指南
人工智能·pytorch·python
Learner14 小时前
Python数据类型(三):列表和元组
开发语言·python
世界唯一最大变量14 小时前
用自创的算法快速解决拉姆奇数
python
leluckys14 小时前
AI- 一种快速实现MCP服务的方法
开发语言·python
写代码的【黑咖啡】14 小时前
探索 Python 中的 Vaex:高效处理大规模数据的新选择
开发语言·python
Lun3866buzha14 小时前
自动扶梯与楼梯识别_yolo11-C3k2-SCcConv改进实现
python