碎片笔记|生成模型原理解读:AutoEncoder、GAN 与扩散模型图像生成机制

前言:本篇博客简要介绍不同生成模型架构的图像生成原理,主要包括AutoEncoder、GAN 和 Diffusion Models 三类。

目录

  • AutoEocoder(自编码器)
    • [VAE(Variational Autoencoder,变分自编码器)](#VAE(Variational Autoencoder,变分自编码器))
  • [GAN(Generative Adversarial Network,生成对抗网络)](#GAN(Generative Adversarial Network,生成对抗网络))
  • [Diffusion Model(扩散模型)](#Diffusion Model(扩散模型))
    • [Latent Diffusion Model(LDM,潜空间扩散模型)](#Latent Diffusion Model(LDM,潜空间扩散模型))

AutoEocoder(自编码器)

AutoEncoder主要用于图像重建任务,是典型的Encoder-Decoder架构。

生成原理:图像 x x x 首先经由 Encoder 编码成 l a t e n t latent latent,然后 l a t e n t latent latent送入Decoder得到重建图像。

VAE(Variational Autoencoder,变分自编码器)

VAE是AutoEncoder的变体,旨在提升AutoEncoder的图像生成能力,因此对于训练完毕的VAE,可以直接使用其Decoder生成图像。

生成原理:随机生成噪声向量 l a t e n t latent latent 送入Decoder即可生成图像。


GAN(Generative Adversarial Network,生成对抗网络)

GAN(Generative Adversarial Network,生成对抗网络)是一种生成模型,由 生成器(Generator) 和 判别器(Discriminator) 构成,生成器负责生成图像,判别器负责区分真图像与生成图像。训练过程中,判别器对生成图像与真实图像进行判别,生成器根据判别结果不断优化,从而生成逼真的图像。两者通过对抗训练提升生成效果。

生成原理:随机生成噪声向量 l a t e n t latent latent(通常服从标准正态分布)作为输入送入生成器,生成器输出图像。


Diffusion Model(扩散模型)

Diffusion Model(扩散模型)是一种基于逐步去噪生成图像的概率模型,通过学习数据分布的反向扩散过程来生成图像。

生成原理:首先从标准正态噪声图像开始,经过训练好的去噪网络(通常是 U-Net 结构)逐步迭代去噪,最终得到高质量图像。生成过程可以视作"从纯噪声到图像"的逐步逆扩散过程。

Latent Diffusion Model(LDM,潜空间扩散模型)

LDM 是 Diffusion Model 的一种变体,将扩散过程放在 潜在空间(latent space) 而非原始像素空间,从而大幅降低计算开销,同时保持生成图像质量。

训练过程:原始图像先通过 AutoEncoder 的 Encoder 映射到潜在向量空间,然后在潜在空间中进行逐步扩散/去噪训练,学习潜在向量的分布。有些训练会将重建的潜向量通过 Decoder 映射回图像空间,计算像素级重建损失,但核心训练是潜在空间去噪。

生成原理:生成图像时,先在潜在空间中选取随机噪声向量开始迭代去噪,得到潜在向量(和随机噪声的维度相同),再通过 Decoder 映射回像素空间得到最终图像。

特点:相比像素空间扩散,LDM 计算更高效,同时可以更容易地结合文本、图像等条件生成图像。

根据生成任务的类型,DM 提供两种不同的输入方式:

模式 输入 随机噪声 条件 Encoder Decoder
Text-to-Image 文本 prompt 文本
Image-to-Image 参考图像 (+可选文本) √(加在潜向量上) 图像 / 文本
相关推荐
永霖光电_UVLED2 分钟前
Enphase 开启首台基于氮化镓(GaN)微逆变器的量产
人工智能·神经网络·生成对抗网络
The Open Group3 分钟前
AI 时代的架构挑战:用标准化方法驾驭智能化复杂性
大数据·人工智能·架构
忆~遂愿4 分钟前
告别听歌枷锁 R3PLAY + cpolar 实现真正的听歌自由
人工智能
o(╥﹏╥)4 分钟前
Learn how Gen AI 学习笔记
人工智能·笔记·学习
Coder_Boy_5 分钟前
基于SpringAI的在线考试系统-教学管理与用户管理模块联合回归测试文档
java·前端·数据库·人工智能·spring boot
可能是阿伦7 分钟前
ZenFlow AI:一个“无广告、免登录、自由度高”的 Todo + 番茄钟 + 生产力分析工具
人工智能·工具
方见华Richard7 分钟前
递归对抗拓扑学:认知冲突的纤维丛结构V1.0
人工智能·交互·学习方法·原型模式·空间计算
Caesar Zou9 分钟前
torchcodec is not available问题
人工智能·pytorch·深度学习·神经网络
翱翔的苍鹰10 分钟前
循环神经网络-RNN和简单的例子
人工智能·pytorch·rnn·深度学习·神经网络·transformer·word2vec
Lun3866buzha13 分钟前
YOLO11-C3k2-FMB改进 _ 深蹲动作识别与分类_1
人工智能·分类·数据挖掘