python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
AI视觉网奇3 分钟前
动作识别 视频理解大模型
开发语言·python·音视频
Java尧哥学AI24 分钟前
35岁Java程序员学AI Day2:从装环境到写第一行Python,踩了3个坑
python
zhiSiBuYu051735 分钟前
Flask Session 与 Cookie 新手实战指南
后端·python·flask
码云骑士38 分钟前
104-实战论文搜索引擎-ArXiv爬取-Milvus存储-RAG问答-Gradio前端
前端·python·搜索引擎·milvus
比高创意品牌策划设计1 小时前
零售卖场门头设计怎么做才显眼
python
鬼手点金1 小时前
Scrapy + Playwright 完整示例(JS 动态渲染网页)
开发语言·javascript·爬虫·python·scrapy·html·json
存在morning1 小时前
【Python 开发实践 一】Python vs Go vs Java 三门语言对比
java·python·golang
vx-程序开发1 小时前
springboot旅游推介平台---附源码24175
java·spring boot·python·spring cloud·eclipse·django·idea
心运软件1 小时前
基于深度学习的宝石图像分类系统
人工智能·python·深度学习·机器学习·分类·数据挖掘
一木 之林2 小时前
AI实战 : Numpy图像处理与深度学习框架
python