转置卷积(Transposed Convolution)的简单理解运用

转置卷积(也叫反卷积、上采样卷积)是卷积神经网络中常用的操作,尤其在生成模型(如生成对抗网络、U-Net)中用于增加特征图的空间维度。

简单地说,转置卷积是通过插值和卷积操作将较小的输入张量"放大",生成一个更大的输出张量。

输出尺寸计算公式:

  • H_in 和 W_in 是输入特征图的高和宽。
  • K_h 和 K_w 是卷积核的高和宽。
  • S 是步幅。
  • P 是填充。
  • O_p 是输出填充。

|-------|--------------------------|----------------------------|
| 特性 | 转置卷积 (ConvTranspose2d) | Upsample / interpolate |
| 方法类型 | 学习型方法,通过训练卷积核 | 非学习型方法,基于插值规则 |
| 实现原理 | 插值 + 卷积 | 仅插值,常见插值方法包括最近邻、双线性等 |
| 训练过程 | 卷积核是可训练的,网络通过学习来优化上采样的效果 | 不涉及训练,插值固定 |
| 输出的质量 | 生成更自然、更细致的上采样图像,适合生成任务 | 输出图像质量与插值方法有关,可能没有转置卷积细致 |
| 计算速度 | 较慢,涉及卷积操作和反向传播 | 非常快,直接通过插值进行上采样 |
| 应用场景 | GAN、U-Net、图像生成等生成任务 | 图像放大、简单的上采样任务 |

实例:

python 复制代码
import torch
import torch.nn as nn

# 转置卷积层,包含额外的输出填充
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=1, kernel_size=3, stride=2, padding=1, output_padding=1)

# 输入图像:1x1x4x4
input_tensor = torch.tensor([[[[1.0, 2.0, 3.0, 4.0],
                              [5.0, 6.0, 7.0, 8.0],
                              [9.0, 10.0, 11.0, 12.0],
                              [13.0, 14.0, 15.0, 16.0]]]], dtype=torch.float32)

# 应用转置卷积
output_tensor = conv_transpose(input_tensor)

# 输出张量的形状
print(f"Input shape: {input_tensor.shape}")
print(f"Output shape after ConvTranspose2d: {output_tensor.shape}")

输出:

Input shape: torch.Size(1, 1, 4, 4)

Output shape after ConvTranspose2d: torch.Size(1, 1, 8, 8)

深入理解原理:转置卷积(Transposed Convolution)-CSDN博客

视频讲解:

相关推荐
鱼宵4 分钟前
LangChain4j RAG 流水线:手写问答全流程,给 AI 开卷考试
大数据·人工智能·机器学习·langchain4j
HIT_Weston5 分钟前
247、【AI】【模型部署】基座模型研究:RoPE 用在前向还是反向——训练、推理与 KV cache
人工智能
m4Rk_8 分钟前
【论文阅读】Agent 记忆机制(97):MCMA——让 Agent 学会如何抽象记忆,实现跨任务经验迁移
论文阅读·人工智能·学习·开源·github
song5018 分钟前
React Native for OpenHarmony 实战:三方库 react-native-popup-menu 的鸿蒙化适配指南
css·深度学习·react native·react.js·transformer·harmonyos
晓德10 分钟前
7、LLM 模型是怎么训练生成的?(4)指令微调
人工智能·学习·算法·信息安全
蝶依斓(湖南)全案整装12 分钟前
整装企业环保健康交付内容写作方法:空气健康、环保材料与检测标准的非空泛表达
大数据·人工智能
问天_观心16 分钟前
Mistral-7B QLoRA 实战(二):官方权重转换、4-bit NF4 加载与 Base Model 基线测试
人工智能·深度学习·学习·大模型·transformer
倔强的石头10616 分钟前
Gemini架构解析_多模态大模型的设计思路
人工智能·大模型
码农小旋风21 分钟前
OpenSpec:轻量级AI工程规范管理框架
人工智能
AOI小白新手上路22 分钟前
深度学习项目模板与机器学习软件工程(MLSE)实践笔记
深度学习·机器学习·软件工程