【Python深度学习】1.1. 多层感知器MLP(人工神经网络)介绍

喜欢的话别忘了点赞、收藏加关注哦(关注即可查看全文),对接下来的教程有兴趣的可以关注专栏。谢谢喵!(=・ω・=)

1.1.1. 为什么需要多层感知器

我们之前学过很多机器学习的算法,为什么还要学这个多层感知器呢?

看个例子:

根据检测数据x1x_1x1、x2x_2x2及其标签,判断x1=0.7x_1 = 0.7x1=0.7、x2=0.6x_2 = 0.6x2=0.6时所属的类别

通常来说我们可以建立一个逻辑回归模型来找到决策边界。但是这里的边界明显非常复杂,使用逻辑回归需要生成指数和项数都非常多的多项式。

而现实中的实际数据只可能比这个更加复杂,而且因子也会更多。如果我们这个时候还是使用逻辑回归运算速度就会非常慢。


再举一个例子:

自动识别图片中的动物是猫还是狗

人能够非常直观地分辨出哪个是猫哪个是狗,但计算机不行,照片在计算机眼中只是一堆像素点。

我们先把任务进行简化,假如我就在每张图上取两个固定点P1P_1P1、P2P_2P2,得到这两个点的灰度值(Gray Scale),然后把这些数据放到平面直角坐标系中:

假如说红色的点代表猫,蓝色的叉代表狗,那么就让计算机通过逻辑回归找到分辨猫和狗的决策边界。这里由于我们简化了任务,所以决策边界看着不是很复杂,用逻辑回归也能完成。

但在实际的任务中我们会把一个照片的所有像素点的灰度数值给计算机。假如说这里有400x500大小的照片,那么就会有20万个散点数据。这时候用逻辑回归,模型的二次项数量(xi×xjx_i \times x_jxi×xj)会超过百亿个(200000×1999992\frac{200000 \times 199999} {2}2200000×199999)


这些传统机器学习无法很好处理的问题就需要MLP来处理了。

1.1.2. 多层感知器(人工神经网络)的核心

多层感知器(人工神经网络)的核心就在于像人一样思考。那么人是怎么思考的呢?

这里涉及到一点生物知识:

神经系统中最基础的结构和功能单位就是神经元。

其中最核心的两个部分就是树突和轴突末端:

  • 树突:接受上一个神经的轴突释放的化学物质(递质),使该神经产生电位差形成电流传递信息
  • 轴突:释放递质给下一个神经元,实现信息传递

而多层感知器(人工神经网络)就是模仿这个基本结构:

将数据传入这个"神经元",经过某种处理(某个公式),输出新的数据。

其实这个流程与逻辑回归的架构非常像:

把输入数据经过公式处理得出PPP,而不同的PPP值就可以对应不同的情况。

人的大脑中有许多的神经元组成了神经网络,而多层感知器也正式依靠许多的"逻辑回归结构"叠加形成人工神经网络。

1.1.3. 多层感知器MLP数学表达式

输入神经元就是输入数据,输出神经元的值就确定了属于某个类别的概率。我们知道了每一个神经元节点都是一个逻辑回归模型,就可以推导出被夹在输入神经元和输出神经元中的这些隐含神经元,这里我们以a22a_2^2a22为例:
a22=g(θ201x0+θ211x1+θ221x2+θ231x3) a_2^2 = g\left(\theta_{20}^{1} x_0 + \theta_{21}^{1} x_1 + \theta_{22}^{1} x_2 + \theta_{23}^{1} x_3 \right) a22=g(θ201x0+θ211x1+θ221x2+θ231x3)

  • a22a_2^2a22:表示第二层(隐藏层)第2个神经元的激活值(即输出)
  • g(⋅)g(\cdot)g(⋅):表示激活函数,例如Sigmoid、ReLU、tanh等。用于引入非线性,使模型能学习复杂关系
  • θij1\theta_{ij}^{1}θij1:表示第一层到第二层之间的权重 ,这里的上标1表示这是第一层的权重矩阵 (通常是输入层到隐藏层的权重)。例如,θ211\theta_{21}^{1}θ211代表从输入层第1个输入节点到隐藏层第2个神经元的权重。
  • x0x_0x0, x1x_1x1, x2x_2x2, x3x_3x3 :表示输入值,其中x0x_0x0通常是偏置项,一般取值为1。

一些名词解释:

  • Sigmoid、ReLU、tanh:一些计算非线性变化的公式。其中Sigmod就是逻辑回归中采用的公式P(x)=11+e−xP(x) = \frac{1}{1 + e^{-x}}P(x)=1+e−x1,ReLU和tanh我们会在之后涉及
  • 偏置项就像是一个"自由调整的数 ",它可以让神经元在没有输入(或输入为零)时仍然有一个非零的输出,用于调整神经元的激活值

我们只要一层一层地这么算每一个神经节点就能得到最终的yyy。

我们需要计算机做的就是根据分类好的数据反推权重。

相关推荐
智算菩萨2 小时前
【Python图像处理】4 NumPy数组操作与图像矩阵运算
图像处理·python·numpy
天下无贼!2 小时前
【功能实现】基于Vue3+TS实现大文件分片上传
开发语言·javascript·node.js·vue·html5
数据科学小丫2 小时前
数据分析利器 Pandas :apply() 方法 + map() 配对 + 计算描述统计 + 协方差和相关性 + 异常值处理常用方法(基于 python )
python·数据分析·numpy·pandas
枕石 入梦2 小时前
【源码解析】OpenClaw 多渠道 AI 助手网关的架构设计与核心原理
人工智能·openclaw·小龙虾
程序员小寒2 小时前
JavaScript设计模式(九):工厂模式实现与应用
开发语言·前端·javascript·设计模式
派大星酷2 小时前
线程池-----Executors
java·开发语言
财经资讯数据_灵砚智能2 小时前
基于全球经济类多源新闻的NLP情感分析与数据可视化(日间)2026年4月6日
大数据·人工智能·python·信息可视化·语言模型·自然语言处理·ai编程
小碗羊肉2 小时前
【从零开始学Java | 第二十八篇】可变参数
java·开发语言
逻极2 小时前
Windows平台Ollama AMD GPU编译全攻略:基于ROCm 6.2的实战指南(附构建脚本)
人工智能·windows·gpu·amd·ollama