深度学习中的MLP层

MLP层(深度学习)

MLP = Multi-Layer Perceptron,多层感知机 ,日常也常叫全连接层(Fully Connected Layer, FC),是深度学习最基础的网络层之一。

一、核心定义

多层神经元全连接 组成的网络结构:上一层每一个神经元 ,都和下一层所有神经元建立连接,没有局部感受野、没有权重共享。

二、结构组成

标准MLP一般包含三部分:

  1. 输入层:接收特征向量(一维数据)
  2. 隐藏层:一层或多层,搭配激活函数(ReLU、Sigmoid、Tanh等)做非线性变换
  3. 输出层:输出最终结果(分类概率、回归数值等)

深度学习里说的 MLP层 ,大多特指全连接层

三、主要作用

  1. 特征融合/映射
    把卷积、池化、Transformer等模块提取的高维特征,转换成一维向量,再做特征组合与变换。
  2. 维度变换
    自由调整特征维度(升维/降维)。
  3. 最终分类/回归
    网络末尾几乎都用MLP/全连接层输出预测结果(如图像分类、文本分类)。

四、典型使用场景

  1. CNN + MLP
    卷积网络提取图像局部特征 → 展平(Flatten) → 接入MLP全连接层 → 分类输出。
  2. Transformer + MLP
    NLP/视觉Transformer中,每个编码器/解码器内部都包含Feed-Forward MLP(前馈多层感知机),对语义/视觉特征做非线性转换。
  3. 传统表格数据、一维特征任务:直接用纯MLP搭建模型。

五、优缺点

✅ 优点:结构简单、逻辑直观、拟合能力强,擅长处理一维向量特征

❌ 缺点:

  • 参数极多,容易过拟合
  • 不具备局部感知、权重共享,处理图像、长序列等二维/高维数据效率低;
  • 无法保留空间/位置信息。

六、简单示例

输入:1024维特征向量

→ MLP隐藏层(512神经元 + ReLU)

→ MLP输出层(10神经元 + Softmax)

→ 得到10分类结果。

相关推荐
@Mr_LiuYang8 分钟前
大模型提示注入攻防实验--《深入理解 AI Agent:设计原理与工程实践 》实验2-5
人工智能·大模型·提示词注入·攻防实验
Qyr9915 分钟前
重载机器人传输单元:工业自动化的“移动基石”与市场增长新引擎
人工智能
leory20 分钟前
01 - Function Calling 机制
人工智能
Akir.weiwen26 分钟前
① 语义令牌表:把语义概念编码成离散枚举
人工智能·设计规范·语义
一次旅行26 分钟前
ViT/CLIP/LLaVA/GPT-4V/VideoLLM多模态架构全解:原理仿真+工业落地选型+完整推理代码
人工智能·算法·架构
武子康27 分钟前
前台语音与后台任务为什么要做双循环:从委派到结果新鲜度
人工智能·chatgpt·agent
呆呆敲代码的小Y41 分钟前
awesome-llm-apps 开源项目详解:100+ AI Agent 与 RAG 模板一键复用
人工智能·ai·开源·ai编程·ai agent·awesome·llm应用
Bzc11456231 小时前
中医辨证调护:慢病视角下的血糖健康养护思路
大数据·人工智能·生活
短视频矩阵源码定制1 小时前
个性化学习机构四大模式深度评测与选型指南
人工智能·学习
我是大卫1 小时前
《窄门》:真正毁掉爱情的,不是不爱,而是“太爱”
人工智能