深度学习中的MLP层

MLP层(深度学习)

MLP = Multi-Layer Perceptron,多层感知机 ,日常也常叫全连接层(Fully Connected Layer, FC),是深度学习最基础的网络层之一。

一、核心定义

多层神经元全连接 组成的网络结构:上一层每一个神经元 ,都和下一层所有神经元建立连接,没有局部感受野、没有权重共享。

二、结构组成

标准MLP一般包含三部分:

  1. 输入层:接收特征向量(一维数据)
  2. 隐藏层:一层或多层,搭配激活函数(ReLU、Sigmoid、Tanh等)做非线性变换
  3. 输出层:输出最终结果(分类概率、回归数值等)

深度学习里说的 MLP层 ,大多特指全连接层

三、主要作用

  1. 特征融合/映射
    把卷积、池化、Transformer等模块提取的高维特征,转换成一维向量,再做特征组合与变换。
  2. 维度变换
    自由调整特征维度(升维/降维)。
  3. 最终分类/回归
    网络末尾几乎都用MLP/全连接层输出预测结果(如图像分类、文本分类)。

四、典型使用场景

  1. CNN + MLP
    卷积网络提取图像局部特征 → 展平(Flatten) → 接入MLP全连接层 → 分类输出。
  2. Transformer + MLP
    NLP/视觉Transformer中,每个编码器/解码器内部都包含Feed-Forward MLP(前馈多层感知机),对语义/视觉特征做非线性转换。
  3. 传统表格数据、一维特征任务:直接用纯MLP搭建模型。

五、优缺点

✅ 优点:结构简单、逻辑直观、拟合能力强,擅长处理一维向量特征

❌ 缺点:

  • 参数极多,容易过拟合
  • 不具备局部感知、权重共享,处理图像、长序列等二维/高维数据效率低;
  • 无法保留空间/位置信息。

六、简单示例

输入:1024维特征向量

→ MLP隐藏层(512神经元 + ReLU)

→ MLP输出层(10神经元 + Softmax)

→ 得到10分类结果。

相关推荐
xixingzhe21 小时前
AI 自然语言转SQL
人工智能
love530love1 小时前
【笔记】AutoClaw NSIS 安装器卡死、进程杀不掉、目录删不了?我是这么解决的
人工智能·windows·笔记·agent
Mandy的名字被占用了1 小时前
晨风AI+知识付费系统|学练考全闭环,重构教育变现新模式
人工智能·后端
步步为营DotNet1 小时前
Avalonia 11.3 本地离线AI图像识别绑定Minimal API AI推理网关
人工智能
满怀冰雪1 小时前
06-自动微分入门:用 Paddle 计算梯度
人工智能·python·深度学习·paddle
架构源启1 小时前
文档接入与智能解析:基于 Spring AI 1.1.x 的多格式解析、版面理解与结构化抽取
java·人工智能·spring
李昊哲小课2 小时前
GLM 多技术栈集成完整教程
人工智能·智能体
浩哥学JavaAI3 小时前
2026年最新AI agent面试(10)_通信与行业动态
人工智能·面试·职场和发展
新知图书3 小时前
7.4 测试与发布(一键生成PPT智能体开发)
人工智能·agent·ai agent·智能体·扣子
糖果店的幽灵3 小时前
【langgraph 从入门到精通graphApi 篇】Checkpoint 持久化与状态管理
人工智能·langgraph