【深度学习基础】互相关与卷积的本质区别及在深度学习中的应用

​ 在卷积神经网络(CNN)中,我们经常使用卷积操作来提取图像特征。但严格来说,深度学习框架中实际执行的往往是互相关操作。本文将详细剖析互相关和卷积的数学本质与区别,并说明为什么在深度学习中这两者几乎可以互换。

一、 互相关(Cross-correlation)

​ 互相关是一种在两个信号之间寻找相似性的操作。

​ 对于图像而言,可以理解为:将一个卷积核(filter)在图像上滑动,并在每个局部区域与卷积核做点积,提取特征。

1.1 二维互相关公式

​ 给定图像输入 X∈RM×N\mathbf{X} \in \mathbb{R}^{M\times N}X∈RM×N,卷积核 W∈RU×V\mathbf{W} \in \mathbb{R}^{U\times V}W∈RU×V,互相关运算定义为:
yij=∑u=1U∑v=1Vwuv⋅xi+u−1,j+v−1 y_{ij}=\sum_{u=1}^U \sum_{v=1}^V w_{uv} \cdot x_{i+u-1,j+v-1} yij=u=1∑Uv=1∑Vwuv⋅xi+u−1,j+v−1

​ 其中,yijy_{ij}yij 表示输出特征图在位置 (i,j)(i,j)(i,j) 的值。

1.2 示例

​ 假设输入数组为:
X=[012345678],W=[0123] \mathbf{X} = \begin{bmatrix} 0 & 1 & 2 \\ 3 & 4 & 5 \\ 6 & 7 & 8 \end{bmatrix},\quad \mathbf{W} = \begin{bmatrix} 0 & 1 \\ 2 & 3 \end{bmatrix} X= 036147258 ,W=[0213]

​ 互相关第一个输出元素计算如下:
0×0+1×1+3×2+4×3=19 0\times0 + 1\times1 + 3\times2 + 4\times3 = 19 0×0+1×1+3×2+4×3=19

​ 在互相关运算过程中,卷积窗口从输入数组的左上方开始,按从左往右、从上到下的顺序滑动,每次滑动都会将窗口中的输入子数组与核数组按元素相乘再求和,得到输出数组中相应位置的元素。依次计算每个位置的输出,得到完整的输出矩阵。

二、卷积(Convolution)

​ 卷积与互相关的公式几乎一样,但有一个关键区别:卷积会在滑动之前将卷积核进行水平和垂直翻转。

  • 数学表示为:

yij=∑u=1U∑v=1Vwuv⋅xi−u+1,j−v+1 y_{ij} = \sum_{u=1}^U \sum_{v=1}^V w_{uv} \cdot x_{i-u+1, j-v+1} yij=u=1∑Uv=1∑Vwuv⋅xi−u+1,j−v+1

​ 当卷积核旋转180°时,原本位于左上角的元素 w11w_{11}w11 会对应输入局部区域的右下角元素 xi−1+1,j−1+1=xi,jx_{i-1+1, j-1+1} = x_{i,j}xi−1+1,j−1+1=xi,j。

​ 或者更直观地表示为:
Y=W∗X=rot180(W)⊗X \mathbf{Y} = \mathbf{W} * \mathbf{X} = \text{rot180}(\mathbf{W}) \otimes \mathbf{X} Y=W∗X=rot180(W)⊗X

​ 其中,rot180(W) 表示将卷积核旋转180度。

三、互相关与卷积的关系

特性 互相关 卷积
核是否翻转 是(水平+垂直)
计算方式 滑动窗口逐元素相乘求和 滑动窗口逐元素相乘求和(核先翻转)
特征提取能力 不受翻转影响 不受翻转影响
深度学习中使用 实际使用 常用名称

注意:在深度学习中,大多数框架(如 PyTorch、TensorFlow)执行的实际上是互相关,但为了历史和习惯仍称为"卷积"。核是否翻转并不影响特征提取能力。

四、总结

  • 互相关:直接在图像上滑动卷积核计算点积,寻找局部相似性。
  • 卷积:在滑动前翻转卷积核,公式上与互相关略有不同。
  • 深度学习实践:为了方便和统一术语,互相关通常也被称为卷积。
  • 关键点 :翻不翻转卷积核不影响特征提取效果,只是数学上的约定不同。
相关推荐
蛐蛐蛐几秒前
在昇腾310P推理服务器上安装CANN和PyTorch
人工智能·pytorch·python·npu
科技林总1 分钟前
如何安全地使用龙虾[特殊字符]
人工智能·安全
szxinmai主板定制专家4 分钟前
基于 STM32 + FPGA 船舶电站控制器设计与实现
arm开发·人工智能·stm32·嵌入式硬件·fpga开发·架构
轮到我狗叫了5 分钟前
ResNet-阅读
python·深度学习·机器学习
lucky_syq7 分钟前
Mac电脑部署OpenClaw保姆级教程(2026最新版)
人工智能·macos·开源·电脑·openclaw
动物园猫9 分钟前
7种交通场景目标检测数据集分享(适用于YOLO系列深度学习检测任务)
深度学习·yolo·目标检测
猿小猴子12 分钟前
主流 AI IDE 之一的 华为云码道「CodeArts」 介绍
ide·人工智能·ai·华为云
Xpower 1717 分钟前
OpenClaw实战:从零开发电商小程序(2)
人工智能·语言模型·小程序·gateway
PNP Robotics17 分钟前
PNP机器人亮相第二届机器人灵巧手国际创新大会
人工智能·学习·机器人·开源
凤年徐18 分钟前
保姆级教程:从零搭建AI系统权限控制系统
人工智能