【扩散模型(二)】IP-Adapter 从条件分支的视角,快速理解相关的可控生成研究

系列文章目录


文章目录


前言

上一篇文章提到可以从两个分支来看 Stable Diffusion [1](#1),其中:

  • 重建分支(reconstruction)负责从噪声中逐步重建出清晰的图像。
  • 条件分支(condition)则引入额外的信息或条件,指导图像的生成过程,使得生成结果符合特定的要求。

从该视角,可以快速地理解基于 SD 的类似可控生成模型,重点都是在修改 condition 分支的部分,通过修改 corss-attention 中的 QKV 来更好地引入控制条件。

一、IP-Adapter

IP-Adapter [2](#2) 则可以看为很好地引入了图像 condition 来引导去噪过程,其核心部分是有效地将图像与文字条件信息通过 Decouple Cross-Attention 来注入 U-Net。

二、InstantID

InstantID[3](#3) 在 IP-Adapter 的基础上(condition1 从一般的 image encoder 换成了针对 face 的 encoder),多训练了一个 U-Net 的一半(即 ControlNet),并在其中加入了人脸的 landmark 来很好地约束 FaceID 信息,提升了生成时的人脸可控性。

三、MimicBrush

MimicBrush [4](#4) 类似 InstantID,增加了一个 Reference Un-Net 作为条件分支来引入控制条件,而 MimicBrush 与 IP-Adapter、InstantID 的不同点在于:

  • MimicBrush 的重建分支中,是从图像输入(Source Image)来进行重建,即先加噪、再去噪的。
  • 而 IP-Adapter、InstantID 的重建分支中,是直接输入 noise 随机噪声,通过 U-Net 对其进行去噪声的。

总结

有了以上多篇论文架构图的例子,应该能很快识别各种基于 IP-Adapter 的可控生成工作啦!🎉


  1. High-Resolution Image Synthesis with Latent Diffusion Models ↩︎

  2. IP-Adapter: Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models ↩︎

  3. InstantID: Zero-shot Identity-Preserving Generation in Seconds ↩︎

  4. Zero-shot Image Editing with Reference Imitation ↩︎

相关推荐
Tomorrow'sThinker几秒前
基于PyTorch的图像分类特征提取与模型训练文档
人工智能·pytorch·分类
Kairo_013 分钟前
A2A与MCP:理解它们的区别以及何时使用
python
wei3872452326 分钟前
java练习2
java·开发语言·python
尼罗河女娲9 分钟前
【Token系列】01 | Token不是词:GPT如何切分语言的最小单元
人工智能·语言模型·自然语言处理
没有梦想的咸鱼185-1037-166313 分钟前
【大语言模型DeepSeek+ChatGPT+GIS+Python】AI大语言模型驱动的地质灾害全流程智能防治:风险评估、易发性分析与灾后重建多技术融合应用
人工智能·python·机器学习·arcgis·语言模型·chatgpt·数据分析
Luck_ff081013 分钟前
【Python爬虫详解】第五篇:使用正则表达式提取网页数据
爬虫·python·正则表达式
RAVEN_145215 分钟前
python精度问题,两个数不等但相减为零
python
roc-ever23 分钟前
用Python做有趣的AI项目 6:AI音乐生成器(LSTM Melody Generator)
人工智能·python·lstm
xiaohanbao0929 分钟前
day10 python机器学习全流程实践
人工智能·python·学习·机器学习·信息可视化·pandas
layneyao31 分钟前
神经辐射场(NeRF)技术解析:3D重建与虚拟世界的未来
人工智能·3d