PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
全栈练习生几秒前
大模型原理之投机解码
python·ai
尹玉玺几秒前
从原子残片到天道公理:以德谟克利特思想全貌,重新定界西方唯物认知的历史层级与边界
人工智能·算法·架构
青少儿编程课堂1 分钟前
蓝桥杯·全国青少年信息素养大赛·电子学会Python/C++考级:差分数组与区间修改实战解析
c++·python·算法·bfs·信息学竞赛
Raas1002 分钟前
2026年AI网关推荐?MAI Gateway(魔芋企业级AI网关)等主流方案横评
大数据·人工智能·ai·gateway·ai网关·mai gateway
狂师3 分钟前
AI Agent 评测:到底要测什么、新手怎么测?(附完整流程)
人工智能·llm·测试
sugar15697 分钟前
给企业系统装上 MCP:陀螺匠接入 AI 的落地实践与三个坑
人工智能
AI技术新视界8 分钟前
ds4 (DwarfStar )是什么?
人工智能·推理引擎·本地ai
IT_陈寒9 分钟前
深入理解Python:核心原理与最佳实践
前端·人工智能·后端
Data-Miner11 分钟前
DeepSeek 对百度搜索的冲击有多大?当搜索被 AI 重写,数据分析行业正在被悄悄改写
人工智能·百度·数据分析
电科_银尘12 分钟前
【电科_银尘】从电子基础到人工智能,分享能用得上的知识
人工智能