【MLP多层感知机】

目录

1.多层感知机的概念

MLP(多层感知机,Multilayer Perceptron)是一种前馈人工神经网络(Feedforward Artificial Neural Network),是深度学习中的基础模型之一,主要用于分类和回归任务。

1)感知机(PLA,Perceptron Learning Algorithm):只有输入和输出层,这两层共同组成了一个简单的神经元,即单个神经元模型,是较大神经网络的前身。它是一个线性的二分类器,但它对非线性的数据并不能进行有效的分类。因此我们可以加深这个神经元的网络层次,理论上来说,多层网络可以模拟任何复杂的函数。以下是感知机的概念公式:

2)多层感知机(MLP,Multi-Layer Perceptron):由感知机推广而来,它最主要的特点就是有多个神经元层,因此 MLP 也被称为人工神经网络(Artificial Neural Network,ANN)。MLP 是一种特定类型的人工神经网络,它由多个神经元组成,通常包括一个输入层、一个或多个隐藏层以及一个输出层。相对而言,ANN 是一个更广泛的术语,它包括了所有由神经元组成的网络,而 MLP 则是 ANN 中的一个特例,指代具有多个层的前馈神经网络。所以在讨论上,MLP 和 ANN 可以互换使用。

2.多层感知机结构

MLP 由多个神经元Neuron组成,通常包括以下层次:

输入层(Input Layer):接收特征输入,每个节点对应一个输入特征。

隐藏层(Hidden Layers):由多个神经元组成,每个神经元与上一层的所有神经元全连接,并进行非线性变换。

输出层(Output Layer):根据任务类型,输出分类结果或回归值。

MLP并没有限定隐层的数量,对于输出层神经元的个数也没有限制,所以我们可以根据各自的需求选择合适的隐层层数。

(图1为感知机,图2为多层感知机)

图1:感知机结构图

图2:多层感知机结构图

多层感知机这三类给定层(输入、中间、输出层)中的每个节点都会连接到相邻层中的每个节点(全连接),所以这里有一个MLP中最重要的一个组成就是Dense Layer。

3.如何由线性结构变为多为多层感知机

我们了解了线性回归,知道了多层感知机有三个层次,那么如何将线性结构变为多层的感知机呢?------重点就是:全连接(Dense) + 激活函数(引入非线性)。

因为想做到非线性,那我们可以尝试使用多个全连接层,但是将全连接层简单的叠加在一起还是线性的,所以要加入非线性的东西在里面,也就是激活函数(比如sigmoid、Relu等),才能实现我们想要的非线性(去拟合各种各样的函数,更具现实意义)。以下是具有一层隐藏层的MLP(左)和具有三层隐藏层的MLP(右)结构示图:

相关推荐
Curvatureflight16 小时前
前端性能优化实战:从3秒到300ms的加载速度提升
前端·人工智能·性能优化
mikejahn16 小时前
爬取CECS网站征求意见栏目的最新信息
python
占疏16 小时前
dify API访问工作流/聊天
开发语言·数据库·python
新智元16 小时前
仅 4 人 28 天!OpenAI 首曝 Sora 内幕:85% 代码竟由 AI 完成
人工智能·openai
受之以蒙16 小时前
Rust 与 dora-rs:吃透核心概念,手把手打造跨语言的机器人实时数据流应用
人工智能·笔记·rust
前端开发工程师请求出战16 小时前
把大模型装进口袋:HuggingFace如何让AI民主化成为现实
人工智能
亚马逊云开发者16 小时前
Amazon Connect结合Strands框架及Bedrock Agent Core的智能客服机器人解决方案(实践篇)
人工智能
谷歌开发者16 小时前
Web 开发指向标|AI 辅助功能在性能面板中的使用与功能
前端·人工智能
aningxiaoxixi16 小时前
TTS 之 PYTHON库 pyttsx3
开发语言·python·语音识别
深蓝海拓16 小时前
PySide6从0开始学习的笔记(三) 布局管理器与尺寸策略
笔记·python·qt·学习·pyqt