13.丢弃法

比权重衰退更好

退学率

好的模型需要对输入数据有较好的鲁棒性

数据集加噪音=正则

丢弃法:在层之间加入噪声,是一个正则

推理时不使用dropout,dropout是一个正则项。

h=dropout(h)h=dropout(h)h=dropout(h)

相关推荐
养肥胖虎1 个月前
《动手学深度学习》第一章笔记:机器学习问题到底怎么分类
ml·d2l
木头程序员4 个月前
关于load_data_fashion_mnist函数运行原理以及运行速度慢解决方案
人工智能·python·深度学习·d2l
坐吃山猪1 年前
动手学深度学习03-线性神经网络
人工智能·深度学习·神经网络·动手学深度学习
带电的小王1 年前
【动手学深度学习】2.5. 自动微分
人工智能·深度学习·微积分·动手学深度学习
groperr2 年前
《动手学深度学习(Pytorch版)》Task01:初识深度学习——4.22打卡
pytorch·动手学深度学习
住在天上的云2 年前
【深度学习笔记】计算机视觉——风格迁移
笔记·深度学习·计算机视觉·风格迁移·动手学深度学习
住在天上的云2 年前
【深度学习笔记】优化算法——Adam算法
笔记·深度学习·算法·动手学深度学习·adam
住在天上的云2 年前
【深度学习笔记】计算机视觉——FCN(全卷积网络
笔记·深度学习·计算机视觉·动手学深度学习·fcn
住在天上的云2 年前
【深度学习笔记】计算机视觉——R-CNN
笔记·深度学习·计算机视觉·动手学深度学习·rcnn