【MLP多层感知机】

目录

1.多层感知机的概念

MLP(多层感知机,Multilayer Perceptron)是一种前馈人工神经网络(Feedforward Artificial Neural Network),是深度学习中的基础模型之一,主要用于分类和回归任务。

1)感知机(PLA,Perceptron Learning Algorithm):只有输入和输出层,这两层共同组成了一个简单的神经元,即单个神经元模型,是较大神经网络的前身。它是一个线性的二分类器,但它对非线性的数据并不能进行有效的分类。因此我们可以加深这个神经元的网络层次,理论上来说,多层网络可以模拟任何复杂的函数。以下是感知机的概念公式:

2)多层感知机(MLP,Multi-Layer Perceptron):由感知机推广而来,它最主要的特点就是有多个神经元层,因此 MLP 也被称为人工神经网络(Artificial Neural Network,ANN)。MLP 是一种特定类型的人工神经网络,它由多个神经元组成,通常包括一个输入层、一个或多个隐藏层以及一个输出层。相对而言,ANN 是一个更广泛的术语,它包括了所有由神经元组成的网络,而 MLP 则是 ANN 中的一个特例,指代具有多个层的前馈神经网络。所以在讨论上,MLP 和 ANN 可以互换使用。

2.多层感知机结构

MLP 由多个神经元Neuron组成,通常包括以下层次:

输入层(Input Layer):接收特征输入,每个节点对应一个输入特征。

隐藏层(Hidden Layers):由多个神经元组成,每个神经元与上一层的所有神经元全连接,并进行非线性变换。

输出层(Output Layer):根据任务类型,输出分类结果或回归值。

MLP并没有限定隐层的数量,对于输出层神经元的个数也没有限制,所以我们可以根据各自的需求选择合适的隐层层数。

(图1为感知机,图2为多层感知机)

图1:感知机结构图

图2:多层感知机结构图

多层感知机这三类给定层(输入、中间、输出层)中的每个节点都会连接到相邻层中的每个节点(全连接),所以这里有一个MLP中最重要的一个组成就是Dense Layer。

3.如何由线性结构变为多为多层感知机

我们了解了线性回归,知道了多层感知机有三个层次,那么如何将线性结构变为多层的感知机呢?------重点就是:全连接(Dense) + 激活函数(引入非线性)。

因为想做到非线性,那我们可以尝试使用多个全连接层,但是将全连接层简单的叠加在一起还是线性的,所以要加入非线性的东西在里面,也就是激活函数(比如sigmoid、Relu等),才能实现我们想要的非线性(去拟合各种各样的函数,更具现实意义)。以下是具有一层隐藏层的MLP(左)和具有三层隐藏层的MLP(右)结构示图:

相关推荐
哆啦A梦的口袋呀几秒前
基于Python学习《Head First设计模式》第三章 装饰者模式
python·学习·设计模式
哆啦A梦的口袋呀1 分钟前
基于Python学习《Head First设计模式》第五章 单件模式
python·学习·设计模式
love530love9 分钟前
【笔记】Windows 下载并安装 ChromeDriver
人工智能·windows·笔记·python·深度学习
机器学习之心14 分钟前
Matlab实现LSTM-SVM回归预测,作者:机器学习之心
机器学习·matlab·lstm·lstm-svm
昨日之日200627 分钟前
SoloSpeech - 高质量语音处理模型,一键提取指定说话人音频并提升提取音频清晰度和质量 本地一键整合包下载
人工智能·音视频
Dxy123931021629 分钟前
DrissionPage 异常处理实战指南:构建稳健的网页自动化防线
运维·爬虫·python·自动化·drissionpage
仙人掌_lz1 小时前
优化 Transformer 模型:基于知识蒸馏、量化技术及 ONNX
人工智能·深度学习·ai·语言模型·自然语言处理·llm·transformer
chao_7891 小时前
链表题解——反转链表【LeetCode】
开发语言·python·算法
pen-ai1 小时前
【深度学习】12. VIT与GPT 模型与语言生成:从 GPT-1 到 GPT4
人工智能·gpt·深度学习
⁤͏͏⁦⁠͏1 小时前
6月2日day43打卡
python