深度学习零碎知识

1. 理解似然函数

似然函数是指当前状态下模型空间中找到合理模型的概率 ,所以可以理解为最小化损失函数就可以最大化似然函数,最大可能找到正确的模型。

2. 增加隐藏层层数而非神经元个数

神经网络的万有近似性质表明,​一个具有足够多神经元的单隐藏层前馈神经网络可以近似任何连续函数。这意味着理论上,单层网络已经具备强大的表达能力。

然而,​理论上的可能性并不等于实际的高效性。在实际应用中,单层网络可能需要非常多的神经元才能达到较好的效果

深层神经网络可以学习到层次化的特征表示:

  • 浅层(靠近输入层)学习低级特征(如边缘、纹理)。
  • 深层(靠近输出层)学习高级特征(如物体形状、语义信息)。
    这种层次化的特征提取能力使得深层网络能够更好地表示复杂的函数关系。
(2)​更高效的特征学习

深层网络可以用更少的参数学习到更复杂的特征。相比之下,单层网络需要大量神经元才能达到类似的效果,导致参数冗余和计算浪费。

(3)​缓解梯度消失和爆炸问题

在浅层网络中,梯度消失和梯度爆炸问题较为严重,导致训练困难。深层网络通过以下技术缓解这些问题:

  • 残差连接(Residual Connections)​:如ResNet中的跳跃连接,帮助梯度更好地传播。
  • 批量归一化(Batch Normalization)​:稳定训练过程,加速收敛。

3. ​激活函数的本质是什么?

激活函数的核心作用是引入非线性,从而使神经网络能够学习复杂的函数关系。具体来说,激活函数的本质包括:

(1)​非线性变换

如果没有激活函数,神经网络只是多个线性变换的叠加,整体仍然是一个线性模型。通过激活函数,神经网络可以表示复杂的非线性函数,从而解决更复杂的任务。

(2)​特征提取

激活函数帮助神经网络提取不同层次的特征。浅层网络提取低级特征(如边缘、纹理),深层网络提取高级特征(如物体形状、语义信息)。这种层次化的特征提取能力是深度学习成功的关键。

(3)​控制输出范围

激活函数可以控制神经元的输出范围,使其符合任务需求。例如:

  • Sigmoid将输出限制在 0,1,适合二分类任务。
  • Tanh将输出限制在 −1,1,适合需要负值的任务。
  • ReLU将输出限制在 [0,+∞),适合需要非负值的任务。
相关推荐
智联视频超融合平台23 分钟前
消防宣传月过半,“AI+消防“给视频平台换了张考卷
人工智能·边缘计算·视频监控·安防·视频联网
冬奇Lab1 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
罗西的思考2 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
RobinDevNotes3 小时前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV3 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程
Bowen_J4 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
IT_陈寒4 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
阿里云大数据AI技术5 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
字节跳动开源5 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计
Bacon5 小时前
我把 Codex 塞进了 Touch Bar:一个 30pt 高的额度与对话面板
人工智能