python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
啊阿狸不会拉杆11 分钟前
人工智能数学基础(四):线性代数
人工智能·python·数学·算法·机器学习
豆芽8191 小时前
感受野(Receptive Field)
人工智能·python·深度学习·yolo·计算机视觉
赛卡1 小时前
IPOF方法学应用案例:动态电压频率调整(DVFS)在AIoT芯片中的应用
开发语言·人工智能·python·硬件工程·软件工程·系统工程·ipof
决战软件之巅2 小时前
Python3 基础语法
python
开发小能手-roy2 小时前
使用PyTorch实现简单图像识别(基于MNIST手写数字数据集)的完整代码示例,包含数据加载、模型定义、训练和预测全流程
人工智能·pytorch·python
API小爬虫2 小时前
利用 Python 爬虫按关键字搜索 1688 商品详情:实战指南
开发语言·爬虫·python
朴拙数科2 小时前
阿里千问Qwen3技术解析与部署指南 :混合推理架构突破性优势与对DeepSeek R1的全面超越
python
belldeep2 小时前
python:sklearn 决策树(Decision Tree)
python·决策树·机器学习·sklearn
Kairo_013 小时前
A2A与MCP:理解它们的区别以及何时使用
python
wei3872452323 小时前
java练习2
java·开发语言·python