深度学习｜表示学习｜卷积神经网络｜局部链接是什么？｜06

如是我闻： 局部连接（Local Connectivity），是卷积神经网络（CNN）中的一个关键特性。

局部连接指的是：
在卷积操作中，每个神经元（或输出单元）只与输入数据的一个局部区域相关联，而不是与整个输入数据相连。

换句话说：

全连接网络（Fully Connected Layer） 中，每个神经元会与上一层所有的神经元相连。
卷积网络（Convolutional Layer） 中，每个输出神经元只与输入数据的一个小区域（称为感受野，Receptive Field）相连。

感受野（Receptive Field）：
- 定义： 感受野是一个输出神经元在输入数据中"看到"的区域。
- 在卷积操作中，每个输出神经元的值是通过感受野内的像素值和卷积核权重计算得到的。
例如：
- 输入图像大小为 6 × 6 6 \times 6 6×6。
- 卷积核大小为 3 × 3 3 \times 3 3×3，感受野就是输入数据中的一个 3 × 3 3 \times 3 3×3 的局部区域。
局部计算：
- 卷积核会对感受野中的像素点进行点积操作，然后得到一个输出值。
- 这一过程会对整个输入图像逐步滑动（称为"滑窗"操作），最终生成输出特征图。
参数共享：
- 在同一层中，相同的卷积核会应用于输入数据的所有局部区域。
- 这意味着，模型只需学习卷积核的参数，而不是为每个感受野单独学习参数，从而大大减少了参数数量。

输入数据：

假设输入图像大小为 6 × 6 6 \times 6 6×6，如下所示：

1 2 3 0 1 2 2 3 1 4 2 3 3 1 2 1 0 1 0 1 3 2 3 0 1 4 2 1 2 1 3 2 1 0 1 3 \] \\begin{bmatrix} 1 \& 2 \& 3 \& 0 \& 1 \& 2 \\\\ 2 \& 3 \& 1 \& 4 \& 2 \& 3 \\\\ 3 \& 1 \& 2 \& 1 \& 0 \& 1 \\\\ 0 \& 1 \& 3 \& 2 \& 3 \& 0 \\\\ 1 \& 4 \& 2 \& 1 \& 2 \& 1 \\\\ 3 \& 2 \& 1 \& 0 \& 1 \& 3 \\\\ \\end{bmatrix} 123013231142312321041210120321231013
卷积核大小为 3 × 3 3 \times 3 3×3，如下：

1 0 − 1 1 0 − 1 1 0 − 1 \] \\begin{bmatrix} 1 \& 0 \& -1 \\\\ 1 \& 0 \& -1 \\\\ 1 \& 0 \& -1 \\\\ \\end{bmatrix} 111000−1−1−1
- 卷积核第一次操作的感受野是输入的左上角 3 × 3 3 \times 3 3×3 区域：
  $1 2 3 2 3 1 3 1 2 \] \\begin{bmatrix} 1 \& 2 \& 3 \\\\ 2 \& 3 \& 1 \\\\ 3 \& 1 \& 2 \\\\ \\end{bmatrix} 123231312$
  1 ⋅ 1 + 2 ⋅ 0 + 3 ⋅ ( − 1 ) + 2 ⋅ 1 + 3 ⋅ 0 + 1 ⋅ ( − 1 ) + 3 ⋅ 1 + 1 ⋅ 0 + 2 ⋅ ( − 1 ) = 1 − 3 + 2 − 1 + 3 − 2 = 0 1 \cdot 1 + 2 \cdot 0 + 3 \cdot (-1) + 2 \cdot 1 + 3 \cdot 0 + 1 \cdot (-1) + 3 \cdot 1 + 1 \cdot 0 + 2 \cdot (-1) = 1 - 3 + 2 - 1 + 3 - 2 = 0 1⋅1+2⋅0+3⋅(−1)+2⋅1+3⋅0+1⋅(−1)+3⋅1+1⋅0+2⋅(−1)=1−3+2−1+3−2=0
- 这个感受野输出值为 0。
- 卷积核向右滑动一个步长（stride），计算下一个感受野。
输出特征图：
- 卷积核对输入的所有 3 × 3 3 \times 3 3×3局部区域滑动，最终生成一个 4 × 4 4 \times 4 4×4 的输出特征图。

如果输入是 RGB 图像（例如 32 × 32 × 3 32 \times 32 \times 3 32×32×3），每个卷积核的感受野是一个 K × K × 3 K \times K \times 3 K×K×3的局部区域：
- K × K K \times K K×K：表示空间上的局部区域。
- 3 3 3：表示图像的 3 个颜色通道（红、绿、蓝）。
卷积核同时作用于这 3 个通道的局部区域，然后汇总信息，生成一个输出值。

局部连接是 CNN 的核心特性：

以上