PyTorch中卷积层torch.nn.Conv2d

在 PyTorch 中,卷积层主要由 torch.nn.Conv1dtorch.nn.Conv2dtorch.nn.Conv3d 实现,分别对应一维、二维和三维卷积操作。以下是详细说明:

1. 二维卷积 (Conv2d) - 最常用

python 复制代码
import torch.nn as nn

# 基本参数
conv = nn.Conv2d(
    in_channels=3,    # 输入通道数 (如RGB图像为3)
    out_channels=16,  # 输出通道数/卷积核数量
    kernel_size=3,    # 卷积核大小 (可以是int或tuple, 如(3,3))
    stride=1,         # 步长 (默认1)
    padding=1,        # 边界填充 (默认0)
    dilation=1,       # 空洞卷积参数 (默认1)
    groups=1,         # 分组卷积参数 (默认1)
    bias=True         # 是否使用偏置 (默认True)
)
计算输出尺寸:

比如:高度

2. 使用示例

python 复制代码
import torch

# 输入张量 (batch_size=4, 通道=3, 高=32, 宽=32)
x = torch.randn(4, 3, 32, 32)

# 卷积层
conv = nn.Conv2d(3, 16, kernel_size=3, padding=1)
output = conv(x)
print(output.shape)  # torch.Size([4, 16, 32, 32])

3. 特殊卷积类型

(1) 空洞卷积 (Dilated Convolution)
python 复制代码
nn.Conv2d(3, 16, kernel_size=3, dilation=2)  # 扩大感受野
(2) 分组卷积 (Grouped Convolution)
python 复制代码
nn.Conv2d(16, 32, kernel_size=3, groups=4)  # 将输入/输出通道分为4组
(3) 深度可分离卷积 (Depthwise Separable)
python 复制代码
# 等价于 groups=in_channels
depthwise = nn.Conv2d(16, 16, kernel_size=3, groups=16)
pointwise = nn.Conv2d(16, 32, kernel_size=1)  # 1x1卷积

4. 一维和三维卷积

Conv1d (时序数据/文本)
python 复制代码
conv1d = nn.Conv1d(in_channels=256, out_channels=100, kernel_size=3)
# 输入形状: (batch, channels, sequence_length)
Conv3d (视频/体积数据)
python 复制代码
conv3d = nn.Conv3d(1, 32, kernel_size=(3,3,3))
# 输入形状: (batch, channels, depth, height, width)

5. 转置卷积 (反卷积)

python 复制代码
nn.ConvTranspose2d(16, 8, kernel_size=2, stride=2)  # 常用于上采样

6. 初始化权重

python 复制代码
# 常用初始化方法
nn.init.kaiming_normal_(conv.weight, mode='fan_out')
nn.init.constant_(conv.bias, 0.1)

7. 可视化卷积核

python 复制代码
import matplotlib.pyplot as plt

weights = conv.weight.detach().cpu()
plt.figure(figsize=(10,5))
for i in range(16):
    plt.subplot(4,4,i+1)
    plt.imshow(weights[i,0], cmap='gray')
plt.show()

8. 总结:

  1. 卷积核参数共享,大大减少参数量

  2. padding='same' 可保持输入输出尺寸相同 (PyTorch 1.9+)

  3. 通常配合 BatchNormReLU 使用

  4. 使用 print(conv) 可查看层结构

实际应用中,卷积层常与池化层交替使用构建CNN架构,如:

python 复制代码
self.conv_block = nn.Sequential(
    nn.Conv2d(3, 32, 3, padding=1),
    nn.BatchNorm2d(32),
    nn.ReLU(),
    nn.MaxPool2d(2)
)
相关推荐
大模型铲屎官1 小时前
【Python-Day 14】玩转Python字典(上篇):从零开始学习创建、访问与操作
开发语言·人工智能·pytorch·python·深度学习·大模型·字典
蹦蹦跳跳真可爱58916 小时前
Python----神经网络(基于DNN的风电功率预测)
人工智能·pytorch·python·深度学习·神经网络·dnn
沃洛德.辛肯20 小时前
PyTorch 的 F.scaled_dot_product_attention 返回Nan
人工智能·pytorch·python
九章云极AladdinEdu2 天前
GPU SIMT架构的极限压榨:PTX汇编指令级并行优化实践
汇编·人工智能·pytorch·python·深度学习·架构·gpu算力
缘友一世2 天前
PyTorch LSTM练习案例:股票成交量趋势预测
pytorch·python·lstm
侃山2 天前
pytorch nn.RNN demo
pytorch·rnn·深度学习
Francek Chen2 天前
【现代深度学习技术】注意力机制07:Transformer
人工智能·pytorch·深度学习·神经网络·transformer
伊织code2 天前
PyTorch API 5 - 全分片数据并行、流水线并行、概率分布
pytorch·python·ai·api·-·5
北京地铁1号线3 天前
卷积神经网络(CNN)前向传播手撕
人工智能·pytorch·深度学习
伊织code3 天前
PyTorch API 7 - TorchScript、hub、矩阵、打包、profile
人工智能·pytorch·python·ai·矩阵·api