PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
ZX0X学习中10 分钟前
一句话让 AI 生成 Excel 多文件合并工具:码道 CLI 实战
人工智能·excel·ai编程·华为云码道
AI小码14 分钟前
WAIC 2026前瞻:AI产业进入拼落地的下半场
人工智能·算法·ai·程序员·大模型·编程·智能体
小企鹅么么17 分钟前
【AI应用开发工程师】第六章:Context Engineering
人工智能·ai
code 小楊20 分钟前
LLM Wiki 深度解析:颠覆传统RAG,开启大模型知识管理新纪元
人工智能·科技
前端H28 分钟前
生成式 UI 实战:AI 如何重塑前端界面
前端·人工智能·ui
nanawinona29 分钟前
2026年AI量化学习,交易认知和技术实现要一起走
人工智能·python
影山飞雄29 分钟前
Using-Superpowers skill 逐行深度解析
人工智能
2601_9564141432 分钟前
AI3D模型生成工具怎么比较?2026主流平台对比与实测维度解析
人工智能·3d
一键生成网站37 分钟前
政务国企数据可视化大屏AI工具对比与信创安全选型指南
人工智能·信息可视化·政务·
故乡de云1 小时前
gemini-3-pro-preview 调用 generateContent 完整配置与排错:REST / Python SDK / Code0 兼容接入
人工智能·大模型·api·claude