VAE和Stable Diffusion的关系

文章目录

      • [✅ 简单回顾:什么是 VAE?](#✅ 简单回顾:什么是 VAE?)
      • [🔄 Stable Diffusion 和 VAE 的关系:](#🔄 Stable Diffusion 和 VAE 的关系:)
        • [🎯 编码器:](#🎯 编码器:)
        • [💥 解码器:](#💥 解码器:)
      • [🤔 那 Stable Diffusion 本身是 VAE 吗?](#🤔 那 Stable Diffusion 本身是 VAE 吗?)
      • [🧠 简要对比:](#🧠 简要对比:)

VAE(变分自编码器)Stable Diffusion 有密切关系,尤其体现在其 编码器和解码器结构 上,但它们并不完全等同。


✅ 简单回顾:什么是 VAE?

变分自编码器(VAE) 是一种生成模型,结构包含:

  1. 编码器(Encoder):将输入数据编码为潜在空间中的分布(而不是一个点),即输出均值和方差;
  2. 重参数化技巧(Reparameterization Trick):从这个分布中采样潜在变量;
  3. 解码器(Decoder):从潜在变量中重构出原始数据;
  4. KL 散度损失:用来让编码分布接近标准正态分布。

🔄 Stable Diffusion 和 VAE 的关系:

Stable Diffusion 中,VAE 的角色主要体现在数据预处理和还原:

🎯 编码器:
  • 输入一张真实图像;
  • 编码成 潜在空间中的一个"紧凑表征"(一个更小的 latent image);
  • 这个 latent image 是接下来扩散过程的输入。
💥 解码器:
  • 当扩散过程完成后(得到一个 denoised latent 表征);
  • 用解码器将 latent image 还原为最终的图像。

这个过程就是 Stable Diffusion 中的 VAE


🤔 那 Stable Diffusion 本身是 VAE 吗?

不是。

  • Stable Diffusion 是基于 扩散模型(Diffusion Models) 的,它的核心是逐步去噪的过程;
  • 它的 潜在空间编码器和解码器 是借用了 VAE 的结构思路;
  • 但主要的建模能力来自 U-Net 模型 + 噪声预测(denoising),不是 VAE 的重参数化采样方式。

🧠 简要对比:

方面 VAE Stable Diffusion
核心机制 编码-解码 + KL损失 噪声建模 + 去噪采样
编码器 输出高斯分布 压缩图像为 latent
解码器 重建图像 从 latent 生成图像
潜变量使用 显式使用 ( z \sim N(\mu, \sigma^2) ) 在 latent space 上运行扩散

画个结构图或者进一步讲讲 latent space 和扩散过程的交互

相关推荐
_妲己13 小时前
SD的细分功能包括重绘,图像处理、放大等扩散模型应用
人工智能·python·深度学习·机器学习·stable diffusion·comfyui·ai工作流
二院大蛙2 天前
Stable Diffusion 3.5 FP8在农业无人机航拍模拟图中的地形还原精度
stable diffusion· fp8· 农业无人机
或困2 天前
Stable Diffusion 3.5 FP8镜像支持灰度检测与异常报警
stable diffusion·灰度发布·fp8量化
沉默的大羚羊2 天前
Stable Diffusion 3.5 FP8模型可用于旅游宣传海报制作
stable diffusion·文生图·fp8
BOBO爱吃菠萝2 天前
Stable Diffusion 3.5 FP8镜像自动化部署脚本发布
stable diffusion·量化·fp8
九章云极AladdinEdu2 天前
项目分享|SD-Trainer:Stable Diffusion 训练集成工具
stable diffusion·端到端学习·高斯泼溅·3d场景分割·物体级代码本·2d到3d提升
qq_420443272 天前
AMD显卡在windows中通过WSL安装使用stable diffusion(WebUI和ComfyUI)
linux·windows·ubuntu·stable diffusion·wsl
网安入门学习2 天前
2025年AIGC人才需求报告:从招聘数据看行业趋势与技能要求
人工智能·windows·ai作画·stable diffusion·aigc
ai_xiaogui2 天前
Stable Diffusion Web UI 整合包一键安装教程:Windows/Mac零基础部署AI绘画工具
人工智能·ai作画·stable diffusion·一键整合包·ai生图神器·ai生图和动作迁移
人工智能AI技术3 天前
【SD教程】提示词
人工智能·stable diffusion·aigc·ai绘画