PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
AGI_Eval5 小时前
姚顺雨的“半年考”:Hy3用21B激活参数,交出了一份怎样的答卷?
人工智能
武子康5 小时前
OpenAI Workspace Agents 进入信用计费:Coding Agent 从额度体验走向成本治理
人工智能·openai·claude
周末程序猿5 小时前
图解 120 个大语言模型(LLM)核心概念(31-60)
人工智能
谙忆5 小时前
Python 常用图像处理库速查:Pillow、OpenCV、rembg、pillow-simd 各擅长什么、怎么选
图像处理·python·pillow
敲代码的猴先生5 小时前
论文分享 | TensorAbuse:通过滥用TensorFlow API将AI模型转化为恶意软件
人工智能·python·语言模型·tensorflow·论文笔记
言乐65 小时前
Python视频相对亮度检测
数据库·python·计算机视觉·小程序·音视频
hereitis贝壳5 小时前
AI条形码插件|EAN13、Code、交叉二五码标准生成脚本,Win/Mac双端通用
人工智能
Csvn5 小时前
Python 开发技巧 · logging 最佳实践 —— 告别 print,搭建工程级日志系统
后端·python
科技侃谈5 小时前
2026年杭州医疗大模型wisediag相关产品梳理与行业观察
大数据·人工智能
ShallWeL5 小时前
【机器学习】(16)—— 数值数据
人工智能·python·算法·机器学习·数据分析