python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
二川bro3 分钟前
数据可视化进阶:Python动态图表制作实战
开发语言·python·信息可视化
青青子衿_2118 分钟前
TikTok爬取——视频、元数据、一级评论
爬虫·python·selenium
忘却的旋律dw1 小时前
使用LLM模型的tokenizer报错AttributeError: ‘dict‘ object has no attribute ‘model_type‘
人工智能·pytorch·python
20岁30年经验的码农1 小时前
Java RabbitMQ 实战指南
java·开发语言·python
studytosky3 小时前
深度学习理论与实战:MNIST 手写数字分类实战
人工智能·pytorch·python·深度学习·机器学习·分类·matplotlib
上不如老下不如小3 小时前
2025年第七届全国高校计算机能力挑战赛初赛 Python组 编程题汇总
开发语言·python·算法
Q_Q5110082853 小时前
python+django/flask的结合人脸识别和实名认证的校园论坛系统
spring boot·python·django·flask·node.js·php
Q_Q5110082853 小时前
python+django/flask的选课系统与课程评价整合系统
spring boot·python·django·flask·node.js·php
charlie1145141913 小时前
勇闯前后端Week2:后端基础——Flask API速览
笔记·后端·python·学习·flask·教程
豐儀麟阁贵3 小时前
8.2异常的抛出与捕捉
java·开发语言·python