dropout

Dropout是一种用于神经网络的正则化技术,旨在减少过拟合。过拟合通常在模型在训练数据上表现得很好,但在新数据上表现不佳时发生。Dropout通过在训练过程中随机关闭(丢弃)神经元的方式来防止过拟合。

Dropout的原理如下:

  1. 随机丢弃神经元: 在每个训练迭代中,Dropout会随机选择一些神经元并将其输出置零。这相当于将这些神经元从网络中删除,因此网络的每个训练迭代都会使用不同的子集神经元。

  2. 独立丢弃: 每个神经元都有一个与其相关的丢弃概率,通常用超参数 dropout 表示。该概率表示在训练时每个神经元被丢弃的概率。例如,如果 dropout=0.5,则每个神经元在每个训练迭代中都有50%的概率被丢弃。

  3. 防止过拟合: Dropout通过减少神经元之间的共适应性(co-adaptation)来防止过拟合。因为每个神经元都可能在某个训练迭代中被丢弃,网络不能过度依赖于任何一个特定的神经元,从而增加了模型的泛化能力。

  4. 测试时全保留: 在测试阶段,所有神经元都被保留,但其输出值要乘以 1 - dropout 这个比例。这是为了在测试时保持输入和输出之间的一致性,因为在训练时某些神经元被丢弃了。

Dropout的引入可以看作是在训练过程中对模型进行了集成学习,通过多次训练不同的子集,模型能够更鲁棒地适应不同的数据分布,从而提高泛化性能。

复制代码
def dropout_layer(X,dropout):
    assert 0 <= dropout <= 1
    if dropout == 1:
        return torch.zeros_like(X)
    if dropout == 0:
        return X
    mask = (torch.rand(X.shape) > dropout).float()
    return mask * X / (1.0 - dropout)
相关推荐
acstdm1 小时前
DAY 48 CBAM注意力
人工智能·深度学习·机器学习
澪-sl1 小时前
基于CNN的人脸关键点检测
人工智能·深度学习·神经网络·计算机视觉·cnn·视觉检测·卷积神经网络
羊小猪~~1 小时前
数据库学习笔记(十七)--触发器的使用
数据库·人工智能·后端·sql·深度学习·mysql·考研
视觉语言导航4 小时前
RAL-2025 | 清华大学数字孪生驱动的机器人视觉导航!VR-Robo:面向视觉机器人导航与运动的现实-模拟-现实框架
人工智能·深度学习·机器人·具身智能
羊小猪~~5 小时前
【NLP入门系列五】中文文本分类案例
人工智能·深度学习·考研·机器学习·自然语言处理·分类·数据挖掘
李师兄说大模型5 小时前
KDD 2025 | 地理定位中的群体智能:一个多智能体大型视觉语言模型协同框架
人工智能·深度学习·机器学习·语言模型·自然语言处理·大模型·deepseek
锅挤6 小时前
深度学习5(深层神经网络 + 参数和超参数)
人工智能·深度学习·神经网络
网安INF6 小时前
深层神经网络:原理与传播机制详解
人工智能·深度学习·神经网络·机器学习
喜欢吃豆6 小时前
目前最火的agent方向-A2A快速实战构建(二): AutoGen模型集成指南:从OpenAI到本地部署的全场景LLM解决方案
后端·python·深度学习·flask·大模型
喜欢吃豆7 小时前
快速手搓一个MCP服务指南(九): FastMCP 服务器组合技术:构建模块化AI应用的终极方案
服务器·人工智能·python·深度学习·大模型·github·fastmcp