PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
Regentsoft丽晶软件2 分钟前
品牌方新品上市促销政策无法实时同步经销商,有没有支持总部-经销商-终端一站式的分销解决方案?
人工智能·经验分享·数据库架构
liuqs3325 分钟前
机器人产业加速发展,制造业正在迎来新的自动化探索
大数据·人工智能
腾讯云大数据6 分钟前
DataBuddy数据语义驱动的企业Agent Runtime实践
大数据·人工智能·腾讯云·agent
裕晟资质规划6 分钟前
武器装备科研生产单位保密资质申请方法论:条件模型与流程拆解
人工智能·算法
海兰8 分钟前
【应用】基于 Next.js 16 + Python mplfinance的金融K线图与技术指标可视化平台(三)
javascript·python·金融
cvcode_study19 分钟前
Ollama+ComfyUI 多模态
大数据·人工智能·python
Bode_200222 分钟前
决策设计方法
人工智能·交互·智能工厂
AI砖家26 分钟前
Kimi K3 本地部署全解析:需要什么配置的电脑,到底要花多少钱?
人工智能·ai编程
H03111698529 分钟前
教学设计PPT模板平台选用参考
人工智能
众壹新能源科技30 分钟前
功率预测误差考核怎么降?从气象源到上报口径的排查清单
运维·人工智能·自动化