PyTorch踩坑记录1

1 model.eval()无法关闭dropout

因为model.eval()控制self.training参数,只有用nn.Dropout(0.5)声明才能在调用model.eval()后关闭,用F.dropout(x, p=0.5)是没办法自动关闭的,需要手动把self.training的参数传入到F.dropout()里才行。

网上查到是因为model.eval()会影响继承nn.module类的self.方法的训练和测试,但是F.dropout更像是一个函数没继承nn,module。

另外,回归模型在后面几层应该避免使用dropout,最多在浅层使用。

2 BCEloss归一化

在tf2中BCEloss没有归一化,但是在torch中的损失函数是归一化了的。

相关推荐
阿杰学AI5 分钟前
AI核心知识42——大语言模型之AI Coding(简洁且通俗易懂版)
人工智能·ai·语言模型·aigc·ai编程·cursor·ai coding
工藤学编程6 分钟前
零基础学AI大模型之LangChain整合Milvus:新增与删除数据实战
人工智能·langchain·milvus
希艾席帝恩6 分钟前
从制造到“智造”:数字孪生驱动的工业革命
大数据·人工智能·数字孪生·数据可视化·数字化转型
方品7 分钟前
从0构建深度学习框架——揭秘深度学习框架的黑箱
人工智能·深度学习
光羽隹衡14 分钟前
机器学习的介绍
人工智能·机器学习
1+2单片机电子设计15 分钟前
STM32 智能外卖柜的设计与实现
人工智能·stm32·单片机·嵌入式硬件
EkihzniY16 分钟前
OCR定制识别:解锁文字识别的无限可能
大数据·人工智能·ocr
秋刀鱼 ..17 分钟前
第五届计算机、物联网与控制工程国际学术会议(CITCE 2025)
人工智能·python·物联网·机器人·制造·新人首发
jkyy201417 分钟前
慢病全周期管理+数智化:重构药品零售的健康价值
大数据·人工智能·物联网·健康医疗
l3538o6757319 分钟前
智能家居设备供电芯片:220v降压5v 12v-600ma电源芯片AH8966/AH8665
人工智能·科技·单片机·智能家居