PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
檀越剑指大厂1 分钟前
把 RK3566 小盒子改成飞牛 NAS:刷机、硬盘迁移与远程访问完整实战
人工智能
网易易盾1 分钟前
AI Agent行为链安全:实时监控、权限管控与持续评测
人工智能·安全
隐擎fox9 分钟前
解构无感人机验证底层机制:行为生物轨迹采样、环境评分模型与自动化对抗实战
自动化测试·python·网络协议·tcp/ip·网络爬虫
鬓戈24 分钟前
Qwen3.8-27B + vLLM 性能优化
人工智能·性能优化·vllm
haidao03125 分钟前
氙灯光源技术特性及其在光催化实验中的标准化应用研究
人工智能·python·能源
GreatVicent27 分钟前
腾讯AI产业大会解读:Agent进场,企业基础设施怎么搭
大数据·数据库·人工智能·llm·agent·企业信息化
m0_4665252932 分钟前
从火柴人看护画面看云从科技生态企业的隐私保护实践
大数据·人工智能·科技·microsoft
深蓝AI34 分钟前
激活3B的搜索智能体拿下82.2分:Iris开源,为什么上下文管理比堆参数更值钱
人工智能
用户03321266636737 分钟前
使用 Python 设置 Excel 行列自适应 【代码示例】
python·excel
Dawson Zhu38 分钟前
基于 OKF 知识图谱的 Text2SQL 领域知识注入实践——半导体晶圆厂数据资产知识库 MVP 剖析
人工智能·语言模型·架构·aigc·agi