PyTorch中卷积层torch.nn.Conv2d

在 PyTorch 中,卷积层主要由 torch.nn.Conv1dtorch.nn.Conv2dtorch.nn.Conv3d 实现,分别对应一维、二维和三维卷积操作。以下是详细说明:

1. 二维卷积 (Conv2d) - 最常用

python 复制代码
import torch.nn as nn

# 基本参数
conv = nn.Conv2d(
    in_channels=3,    # 输入通道数 (如RGB图像为3)
    out_channels=16,  # 输出通道数/卷积核数量
    kernel_size=3,    # 卷积核大小 (可以是int或tuple, 如(3,3))
    stride=1,         # 步长 (默认1)
    padding=1,        # 边界填充 (默认0)
    dilation=1,       # 空洞卷积参数 (默认1)
    groups=1,         # 分组卷积参数 (默认1)
    bias=True         # 是否使用偏置 (默认True)
)
计算输出尺寸:

比如:高度

2. 使用示例

python 复制代码
import torch

# 输入张量 (batch_size=4, 通道=3, 高=32, 宽=32)
x = torch.randn(4, 3, 32, 32)

# 卷积层
conv = nn.Conv2d(3, 16, kernel_size=3, padding=1)
output = conv(x)
print(output.shape)  # torch.Size([4, 16, 32, 32])

3. 特殊卷积类型

(1) 空洞卷积 (Dilated Convolution)
python 复制代码
nn.Conv2d(3, 16, kernel_size=3, dilation=2)  # 扩大感受野
(2) 分组卷积 (Grouped Convolution)
python 复制代码
nn.Conv2d(16, 32, kernel_size=3, groups=4)  # 将输入/输出通道分为4组
(3) 深度可分离卷积 (Depthwise Separable)
python 复制代码
# 等价于 groups=in_channels
depthwise = nn.Conv2d(16, 16, kernel_size=3, groups=16)
pointwise = nn.Conv2d(16, 32, kernel_size=1)  # 1x1卷积

4. 一维和三维卷积

Conv1d (时序数据/文本)
python 复制代码
conv1d = nn.Conv1d(in_channels=256, out_channels=100, kernel_size=3)
# 输入形状: (batch, channels, sequence_length)
Conv3d (视频/体积数据)
python 复制代码
conv3d = nn.Conv3d(1, 32, kernel_size=(3,3,3))
# 输入形状: (batch, channels, depth, height, width)

5. 转置卷积 (反卷积)

python 复制代码
nn.ConvTranspose2d(16, 8, kernel_size=2, stride=2)  # 常用于上采样

6. 初始化权重

python 复制代码
# 常用初始化方法
nn.init.kaiming_normal_(conv.weight, mode='fan_out')
nn.init.constant_(conv.bias, 0.1)

7. 可视化卷积核

python 复制代码
import matplotlib.pyplot as plt

weights = conv.weight.detach().cpu()
plt.figure(figsize=(10,5))
for i in range(16):
    plt.subplot(4,4,i+1)
    plt.imshow(weights[i,0], cmap='gray')
plt.show()

8. 总结:

  1. 卷积核参数共享,大大减少参数量

  2. padding='same' 可保持输入输出尺寸相同 (PyTorch 1.9+)

  3. 通常配合 BatchNormReLU 使用

  4. 使用 print(conv) 可查看层结构

实际应用中,卷积层常与池化层交替使用构建CNN架构,如:

python 复制代码
self.conv_block = nn.Sequential(
    nn.Conv2d(3, 32, 3, padding=1),
    nn.BatchNorm2d(32),
    nn.ReLU(),
    nn.MaxPool2d(2)
)
相关推荐
装不满的克莱因瓶1 小时前
PyTorch 与它的自动微分工具:Autograd
人工智能·pytorch·python·深度学习·神经网络·机器学习·ai
Hali_Botebie2 小时前
PyTorch 2.x核心变革torch.compile(),Triton 是其中最重要的 kernel 生成方式之一
人工智能·pytorch·python
m沐沐3 小时前
【深度学习】PyTorch CNN 手写数字识别(卷积神经网络)
人工智能·pytorch·python·深度学习·机器学习·pycharm·cnn
虎妞05004 小时前
PyTorch 2.0 生产级部署与性能优化指南
pytorch·深度学习·ai·模型部署·cuda
月疯4 小时前
torch:transpose和permute的用法
人工智能·pytorch·深度学习
2401_885665194 小时前
从零搭建卷积神经网络:基于PyTorch实现MNIST手写数字分类
pytorch·python·神经网络·算法·机器学习·分类·cnn
直接冲冲冲4 小时前
pytorch-深度学习-引言
人工智能·pytorch·深度学习
SilentSamsara4 小时前
MLflow 实验追踪与模型注册:从实验到生产的可复现工作流
开发语言·人工智能·pytorch·python·青少年编程
月疯5 小时前
torch:view和reshape的区别
pytorch·python·深度学习
benben0446 小时前
ONNX从入门到精通大全
人工智能·pytorch·python