深度学习零碎知识

1. 理解似然函数

似然函数是指当前状态下模型空间中找到合理模型的概率 ,所以可以理解为最小化损失函数就可以最大化似然函数,最大可能找到正确的模型。

2. 增加隐藏层层数而非神经元个数

神经网络的万有近似性质表明,​一个具有足够多神经元的单隐藏层前馈神经网络可以近似任何连续函数。这意味着理论上,单层网络已经具备强大的表达能力。

然而,​理论上的可能性并不等于实际的高效性。在实际应用中,单层网络可能需要非常多的神经元才能达到较好的效果

深层神经网络可以学习到层次化的特征表示

  • 浅层(靠近输入层)学习低级特征(如边缘、纹理)。
  • 深层(靠近输出层)学习高级特征(如物体形状、语义信息)。
    这种层次化的特征提取能力使得深层网络能够更好地表示复杂的函数关系。
(2)​更高效的特征学习

深层网络可以用更少的参数学习到更复杂的特征。相比之下,单层网络需要大量神经元才能达到类似的效果,导致参数冗余和计算浪费。

(3)​缓解梯度消失和爆炸问题

在浅层网络中,梯度消失和梯度爆炸问题较为严重,导致训练困难。深层网络通过以下技术缓解这些问题:

  • 残差连接(Residual Connections)​:如ResNet中的跳跃连接,帮助梯度更好地传播。
  • 批量归一化(Batch Normalization)​:稳定训练过程,加速收敛。

3. ​激活函数的本质是什么?

激活函数的核心作用是引入非线性,从而使神经网络能够学习复杂的函数关系。具体来说,激活函数的本质包括:

(1)​非线性变换

如果没有激活函数,神经网络只是多个线性变换的叠加,整体仍然是一个线性模型。通过激活函数,神经网络可以表示复杂的非线性函数,从而解决更复杂的任务。

(2)​特征提取

激活函数帮助神经网络提取不同层次的特征。浅层网络提取低级特征(如边缘、纹理),深层网络提取高级特征(如物体形状、语义信息)。这种层次化的特征提取能力是深度学习成功的关键。

(3)​控制输出范围

激活函数可以控制神经元的输出范围,使其符合任务需求。例如:

  • Sigmoid将输出限制在 [0,1],适合二分类任务。
  • Tanh将输出限制在 [−1,1],适合需要负值的任务。
  • ReLU将输出限制在 [0,+∞),适合需要非负值的任务。
相关推荐
烟锁池塘柳014 分钟前
【深度学习】强化学习(Reinforcement Learning, RL)主流架构解析
人工智能·深度学习·机器学习
一尘之中27 分钟前
全素山药开发指南:从防痒处理到高可用食谱架构
人工智能
加油吧zkf1 小时前
水下目标检测:突破与创新
人工智能·计算机视觉·目标跟踪
加油吧zkf1 小时前
AI大模型如何重塑软件开发流程?——结合目标检测的深度实践与代码示例
开发语言·图像处理·人工智能·python·yolo
峙峙峙1 小时前
线性代数--AI数学基础复习
人工智能·线性代数
weiwuxian1 小时前
揭开智能体的神秘面纱:原来你不是"超级AI"!
人工智能
Codebee1 小时前
“自举开发“范式:OneCode如何用低代码重构自身工具链
java·人工智能·架构
说私域1 小时前
基于开源AI智能名片链动2+1模式的S2B2C商城小程序:门店私域流量与视频号直播融合的生态创新研究
人工智能·小程序·开源
Ronin-Lotus2 小时前
深度学习篇---Yolov系列
人工智能·深度学习
静心问道2 小时前
GoT:超越思维链:语言模型中的有效思维图推理
人工智能·计算机视觉·语言模型