深度学习中的残差网络、加权残差连接（WRC）与跨阶段部分连接（CSP）详解

import torch
import torch.nn as nn
import torch.nn.functional as F

# 定义残差块
class ResidualBlock(nn.Module):
    def __init__(self, in_channels, out_channels):
        super(ResidualBlock, self).__init__()
        self.conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1)
        self.conv2 = nn.Conv2d(out_channels, out_channels, kernel_size=3, padding=1)
        self.bn1 = nn.BatchNorm2d(out_channels)
        self.bn2 = nn.BatchNorm2d(out_channels)
        
        # 如果输入和输出的通道数不同，则使用1x1卷积调整尺寸
        if in_channels != out_channels:
            self.shortcut = nn.Conv2d(in_channels, out_channels, kernel_size=1)
        else:
            self.shortcut = nn.Identity()

    def forward(self, x):
        out = F.relu(self.bn1(self.conv1(x)))  # 第一层卷积后激活
        out = self.bn2(self.conv2(out))        # 第二层卷积
        out += self.shortcut(x)                # 残差连接
        return F.relu(out)                     # ReLU激活

# 构建ResNet
class ResNet(nn.Module):
    def __init__(self, num_classes=10):
        super(ResNet, self).__init__()
        self.layer1 = ResidualBlock(3, 64)
        self.layer2 = ResidualBlock(64, 128)
        self.layer3 = ResidualBlock(128, 256)
        self.fc = nn.Linear(256, num_classes)

    def forward(self, x):
        x = self.layer1(x)
        x = self.layer2(x)
        x = self.layer3(x)
        x = F.adaptive_avg_pool2d(x, (1, 1))  # 全局平均池化
        x = torch.flatten(x, 1)                # 展平
        x = self.fc(x)                         # 全连接层
        return x

# 示例：构建一个简单的 ResNet
model = ResNet(num_classes=10)
print(model)

重点

残差连接的实现 ：在 ResidualBlock 类中，out += self.shortcut(x) 实现了输入与输出的加法操作，这是残差学习的核心。
处理输入和输出通道数不一致的情况：如果输入和输出的通道数不同，通过使用 1x1 卷积调整输入的维度，确保加法操作能够进行。

二、加权残差连接（WRC）

2.1 WRC的提出背景

传统的残差网络通过简单的跳跃连接将输入和输出相加，但在某些情况下，不同层的输出对最终结果的贡献是不同的。为了让网络更灵活地调整各层贡献，加权残差连接（WRC） 引入了可学习的权重。公式如下

其中是网络学到的残差部分，是输入，和是权重。

WRC通过为每个残差连接引入可学习的权重和，使得网络能够根据任务需求自适应地调整每个连接的贡献。

2.2 WRC的实现

以下是 WRC 的实现代码，我们为每个残差连接引入了权重参数 alpha 和 beta，这些参数通过训练进行优化。

图例如下：

可以看到，加权残差快其实就是给残差网络的两条分支加个权而已

代码示例如下：

python 复制代码

class WeightedResidualBlock(nn.Module):
    def __init__(self, in_channels, out_channels):
        super(WeightedResidualBlock, self).__init__()
        self.conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1)
        self.conv2 = nn.Conv2d(out_channels, out_channels, kernel_size=3, padding=1)
        self.bn1 = nn.BatchNorm2d(out_channels)
        self.bn2 = nn.BatchNorm2d(out_channels)
        
        # 权重初始化
        self.alpha = nn.Parameter(torch.ones(1))  # 可学习的权重
        self.beta = nn.Parameter(torch.ones(1))   # 可学习的权重

        # 如果输入和输出的通道数不同，则使用1x1卷积调整尺寸
        if in_channels != out_channels:
            self.shortcut = nn.Conv2d(in_channels, out_channels, kernel_size=1)
        else:
            self.shortcut = nn.Identity()

    def forward(self, x):
        out = F.relu(self.bn1(self.conv1(x)))
        out = self.bn2(self.conv2(out))
        
        # 加权残差连接：使用可学习的权重 alpha 和 beta
        out = self.alpha * out + self.beta * self.shortcut(x)
        return F.relu(out)

# 示例：构建一个加权残差块
model_wrc = WeightedResidualBlock(3, 64)
print(model_wrc)

重点

可学习的权重 alpha 和 beta：我们为残差块中的两个加法项（即残差部分和输入部分）引入了可学习的权重。通过训练，这些权重可以自动调整，使网络能够根据任务需求更好地融合输入和输出。
加权残差连接的实现 ：在 forward 方法中，out = self.alpha * out + self.beta * self.shortcut(x) 表示加权残差连接，其中 alpha 和 beta 是可学习的参数。

三、跨阶段部分连接（CSP）

3.1 CSP的提出背景

虽然 ResNet 和 WRC 提供了有效的残差学习和信息融合机制，但在一些更复杂的网络中，信息的传递依然面临冗余和计算开销较大的问题。为了解决这一问题，跨阶段部分连接（CSP） 提出了更加高效的信息传递方式。CSP通过选择性地传递部分信息而不是所有信息，减少了计算量并保持了模型的表达能力。

3.2 CSP的实现

CSP通过分割输入特征，并在不同阶段进行不同的处理，从而减少冗余的信息传递。下面是 CSP 的实现代码。

CSP思想图例如下：

特征分割（Feature Splitting） ：CSP通过分割输入特征图，并将分割后的特征图分别送入不同的子网络进行处理。一般来说，一条分支的子网络会比较简单，一条分支的自网络则是原来主干网络的一部分。

重点

部分特征选择性连接 ：将输入特征分为两部分。每部分特征单独经过卷积处理后，通过 torch.cat() 进行拼接，形成最终的输出。
跨阶段部分连接：CSP块通过分割输入特征并在不同阶段处理，有效地减少了计算开销，并且保持了网络的表达能力。

四、总结

本文介绍了 残差网络（ResNet） 、加权残差连接（WRC） 和 跨阶段部分连接（CSP） 这三种网络架构。

finally，求赞求赞求赞~