转置卷积(Transposed Convolution)的简单理解运用

转置卷积(也叫反卷积、上采样卷积)是卷积神经网络中常用的操作,尤其在生成模型(如生成对抗网络、U-Net)中用于增加特征图的空间维度。

简单地说,转置卷积是通过插值和卷积操作将较小的输入张量"放大",生成一个更大的输出张量。

输出尺寸计算公式:

  • H_in 和 W_in 是输入特征图的高和宽。
  • K_h 和 K_w 是卷积核的高和宽。
  • S 是步幅。
  • P 是填充。
  • O_p 是输出填充。

|-------|--------------------------|----------------------------|
| 特性 | 转置卷积 (ConvTranspose2d) | Upsample / interpolate |
| 方法类型 | 学习型方法,通过训练卷积核 | 非学习型方法,基于插值规则 |
| 实现原理 | 插值 + 卷积 | 仅插值,常见插值方法包括最近邻、双线性等 |
| 训练过程 | 卷积核是可训练的,网络通过学习来优化上采样的效果 | 不涉及训练,插值固定 |
| 输出的质量 | 生成更自然、更细致的上采样图像,适合生成任务 | 输出图像质量与插值方法有关,可能没有转置卷积细致 |
| 计算速度 | 较慢,涉及卷积操作和反向传播 | 非常快,直接通过插值进行上采样 |
| 应用场景 | GAN、U-Net、图像生成等生成任务 | 图像放大、简单的上采样任务 |

实例:

python 复制代码
import torch
import torch.nn as nn

# 转置卷积层,包含额外的输出填充
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=1, kernel_size=3, stride=2, padding=1, output_padding=1)

# 输入图像:1x1x4x4
input_tensor = torch.tensor([[[[1.0, 2.0, 3.0, 4.0],
                              [5.0, 6.0, 7.0, 8.0],
                              [9.0, 10.0, 11.0, 12.0],
                              [13.0, 14.0, 15.0, 16.0]]]], dtype=torch.float32)

# 应用转置卷积
output_tensor = conv_transpose(input_tensor)

# 输出张量的形状
print(f"Input shape: {input_tensor.shape}")
print(f"Output shape after ConvTranspose2d: {output_tensor.shape}")

输出:

Input shape: torch.Size(1, 1, 4, 4)

Output shape after ConvTranspose2d: torch.Size(1, 1, 8, 8)

深入理解原理:转置卷积(Transposed Convolution)-CSDN博客

视频讲解:

相关推荐
Rocky Ding*1 分钟前
一文读懂Kimi K3.1 Pro核心基础知识
论文阅读·人工智能·深度学习·机器学习·aigc·大语言模型·ai-native
vailee4 分钟前
42 万字符的工具输出压进 6,945 token:Agent 长会话的上下文治理实践
java·大数据·人工智能·prompt工程·rag·上下文管理
Data-Miner11 分钟前
一个省大模型积分的 Excel 数据处理方案:脱敏生成逻辑,脚本复用把 token 降到 0
人工智能·windows·excel
Dawson Zhu12 分钟前
【CUDA编程入门⑧】性能分析工具链:Nsight、Profiler与Roofline模型
人工智能·语言模型·架构·aigc·agi
Smoothcloud润云14 分钟前
GPU远程纳管节点频繁离线?心跳、DNS与时钟排障实战
运维·服务器·开发语言·人工智能·php·gpu算力
hsfxuebao17 分钟前
深度拆解 TypeSafe Jev:System One 模型
人工智能
smartpi_ai19 分钟前
机芯智能离线语音模块实战问答:SU-03T、CI-03T、SU-63T 与 JX-A7T 高频问题排查
人工智能·单片机·嵌入式硬件·ci/cd·语音识别
武子康20 分钟前
LingBot-VLA 2.0 怎么从 6B 权重走到真实机器人?55 维动作只是起点
人工智能·后端·agent
ADAI_Bowen25 分钟前
如果让建筑AI更好地服务于建筑设计行业
人工智能
小生凡一33 分钟前
AI 是怎么学会用鼠标的?Computer Use工作原理
人工智能·计算机外设