python精度问题,两个数不等但相减为零

python 复制代码
x=1862790884563160582365888530869690397667546628710795031544304378154769559410473276482265448754388655981091313419549689169381115573539422545933044902527020209259938095466283008
x_acc=x//(2**175)
x_not=x/(2**175)

print('x_acc==x_not',x_acc==x_not)
print('x_acc-x_not==0',(x_acc)-(x_not)==0.0)#minus convert x_acc to float 

intfloat 的存储方式不同

  • int(整数)在 Python 中可以无限大(仅受内存限制),存储的是 精确值

  • float(浮点数)使用 IEEE 754 双精度标准 (64位),只能精确表示大约 15-17 位有效数字 ,超出的位数会被 截断或舍入

进行减法计算时,x_acc会被转为float

相关推荐
木泽八7 分钟前
python实现pdf拆分与合并
服务器·python·pdf
拾贰_C8 分钟前
[Python | pytorch | torchvision ] models like ResNet... 命名变量说明
开发语言·pytorch·python
清水白石00817 分钟前
《Python 装饰器模式与代理模式深度剖析:从语法技巧到架构实战》
python·代理模式·装饰器模式
dagouaofei18 分钟前
AI自动生成PPT工具横评,真实使用感受分享
人工智能·python·powerpoint
阿华田51243 分钟前
如何基于Jupyter内核自研NoteBook
ide·python·jupyter·自研notebook
W如Q扬1 小时前
python程序使用supervisor启停
python·supervisor
Piar1231sdafa1 小时前
蓝莓果实检测与识别——基于decoupled-solo_r50_fpn_1x_coco模型实现
python
拾零吖1 小时前
Python 常用内置函数
python
行走的bug...1 小时前
python项目管理
开发语言·python
其美杰布-富贵-李1 小时前
tsai 完整训练流程实践指南
python·深度学习·时序学习·fastai