PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
是翎4 分钟前
OpenAI 官方 GPT-Image 2.5 提示词指南与示例
大数据·人工智能·gpt·深度学习·自然语言处理·知识图谱
新时代牛马6 分钟前
ATF/ TEE / REE 与ARM 异常级别EL 安全体系完整篇:TrustZone硬件到 SMC 进OP-TEE的全链路
arm开发·python·安全
寥落半伤感8 分钟前
在Pycharm中一键迅速安装包及查看虚拟环境中包名的方法
ide·python·pycharm
老周聊架构14 分钟前
AIP 架构总览:把大模型拧紧到 Ontology 的推理—行动闭环
人工智能·架构·palantir·ontology
呆呆在发呆.17 分钟前
Agnet狼人杀
人工智能·python·microsoft
anxiao_m18 分钟前
不同行业适配哪些云桌面?四大主流品牌场景适配详解
网络·数据库·人工智能
AI人工智能集结号18 分钟前
AI搜索可见度监测软件有哪些?选择时如何区分功能范围
大数据·人工智能
Είναι η κοπέλα27 分钟前
YOLO 演进 v5→v11 与 2026 选型指南
人工智能·yolo
hhzz30 分钟前
【OpenCV 入门到精通 04】视频入门与绘图交互:从摄像头到鼠标画笔
人工智能·python·opencv·计算机视觉·音视频·交互
Thomas.Sir30 分钟前
第40课:TensorFlow|模型推理部署前置知识【离线推理、接口调用基础】
人工智能·python·tensorflow