【机器学习300问】100、怎么理解卷积神经网络CNN中的池化操作?

一、什么是池化?

卷积神经网络(CNN)中的池化(Pooling)操作是一种下采样技术,其目的是减少数据的空间维度(宽度和高度),同时保持最重要的特征并降低计算复杂度。池化操作不仅能够减少模型对计算资源的需求,还能增加模型的鲁棒性(对图像中的小变形不敏感),并帮助提取图像的关键特征。

二、常见池化类型

(1)最大池化

最大池化(Max Pooling)是从输入的每个预定义区域选取最大值作为输出。这是最常用的池化方法,有助于保持图像中的重要特征。

(2)平均池化

平均池化 (Average Pooling)是取输入区域内的平均值作为输出。相比最大池化,平均池化更能平滑特征并减少噪声。

三、池化操作的目的

|-------------|-------------------------------------------|
| 池化的主要作用 | 解释 |
| 降维 | 通过减少特征图的尺寸,降低模型的计算复杂度和内存需求。 |
| 特征不变性 | 增强模型对输入数据中的平移、旋转和尺度变化的不变性,使得模型更加鲁棒。 |
| 防止过拟合 | 通过减少参数数量,降低模型过度拟合训练数据的风险。 |
| 提取重要特征 | 仅保留每个区域的最重要信息,如最大值或平均值,忽略不那么重要的细节。 |
| 增大感受野 | 随着网络的深入,池化帮助后面的层能够"看到"原始输入的更大范围,捕捉更全局的特征。 |

四、池化层的参数

池化操作中有三个重要的参数,它们分别是:池化窗口大小,步长,填充

|---------------------|------------------------------------------------------------------------|
| 参数 | 解释 |
| 池化窗口大小(Kernel Size) | 决定了一次池化操作覆盖输入特征图的区域大小,例如2x2或3x3。缩写成 |
| 步长(stride) | 池化窗口在特征图上移动的间隔,直接影响输出特征图的大小。缩写成 |
| 填充(padding) | 通常在卷积层中更常见,但在某些情况下也可能应用于池化层,以控制输出尺寸。缩写成 |

下图描述的是如何对一个4x4尺寸的特征图中的每个局部区域应用平均池化。具体而言,我们采用一个2x2大小的过滤器(filter),以步长为2的方式遍历特征图,对过滤器覆盖的每个2x2邻域内的像素值进行平均计算,并将得到的平均值作为结果输出到下一层。这种通过局部区域均值采样的技术即被称为平均池化。
用f=2的池化窗口,对p=0的输入数据,进行以步长s=2的平均池化操作

五、池化操作前后尺寸变化

尺寸的公式如下:


池化操作前后尺寸大小

|--------|--------------------------------------------------------------------------------------------|
| 参数 | 解释 |
| H | 池化前的行高 |
| W | 池化前的列宽 |
| C | 池化前的通道数 |
| h | 池化后的行高,,向下取整。 |
| w | 池化后的列宽,,向下取整。 |
| c | 池化后的通道数,,池化后的通道数和池化前一样。 |
| f | 池化窗口打大小,也就是filter的fxf尺寸 |
| s | 池化操作的步长 |

因为一般池化操作都没有padding,也就是 。故按照公式,带入就得到上面图中的公式,如果有padding可按照计算。

相关推荐
Ai工具分享10 分钟前
6 种AI实用的方法,快速修复模糊照片
人工智能
dundunmm14 分钟前
【每天一个知识点】如何解决大模型幻觉(hallucination)问题?
人工智能·数据挖掘·大模型
勤奋的小懒猪16 分钟前
Halcon应用:相机标定之应用
图像处理·人工智能·计算机视觉
白熊18817 分钟前
【计算机视觉】CV实战项目- 深度解析FaceAI:一款全能的人脸检测与图像处理工具库
图像处理·人工智能·计算机视觉
量子位30 分钟前
实测免费 DeepResearch!轻量版深夜上线,基于 o4-mini,速度更快 / 重视脉络梳理
人工智能·openai
nenchoumi311933 分钟前
VLA 论文精读(十八)π0.5: a Vision-Language-Action Model with Open-World Generalization
论文阅读·人工智能·深度学习·语言模型·vla
云天徽上35 分钟前
【数据可视化-30】Netflix电影和电视节目数据集可视化分析
人工智能·机器学习·信息可视化·数据挖掘
MerlinTheMagic40 分钟前
Spring AI 核心概念
java·人工智能·spring
字节跳动技术团队41 分钟前
MySQL 遇到 AI:字节跳动开源 MySQL 虚拟索引 VIDEX
人工智能
字节跳动技术团队41 分钟前
字节跳动开源 Godel-Rescheduler:适用于云原生系统的全局最优重调度框架
人工智能