PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
济南凡维2 分钟前
CODESOFT中如何将标签保存为PDF文件
网络·人工智能·打印机·codesoft
weixin_469273815 分钟前
Image Translate AI:利用 AI实现图片翻译
人工智能
ysu_03146 分钟前
边界条件的硬约束与软约束——从试函数构造到谱分析诊断
人工智能·pytorch·深度学习·物理信息神经网络·pinns·边界条件·ntk
会飞锦鲤7 分钟前
基于 Mask R-CNN 的药片缺陷检测系统
人工智能·pytorch·python·神经网络·resnet-50
默 语10 分钟前
Java新手入门:从零开始安装JDK并配置环境变量
java·开发语言·python·mysql·group by·1024程序员节·数据去重
kyriewen12 分钟前
GPT-6 拿下模型众测第一:我拆完 30 个主题的实时榜单,「最强 AI」得看你问哪个场景
人工智能·程序员·ai编程
jimmyleeee14 分钟前
大模型安全之十六:AI Security Posture Management
人工智能·安全
人工智能AI技术23 分钟前
2026老后端转AI Agent:技术体检+完整复习路线
人工智能
七牛云行业应用29 分钟前
2026 年 9 月 Coding Agent Harness 选型完整指南:30 个工具、SDK 与运行时
人工智能·agent·ai编程
梧桐凰32 分钟前
AI 时代测试工程师的武器库:实战工具指南
人工智能·功能测试·测试用例