【Diffusion Model】发展历程

扩散模型从出现发展到今天已经成为深度学习领域的一个庞大的分支,对于刚刚踏入扩散模型领域的同学,了解扩散模型发展的历程才能在这浩瀚的文献之海中找到到达彼岸的一条航线。

扩散模型(Diffusion Models)是近年来快速发展的生成模型家族,其核心思想是通过逐步添加和去除噪声来学习数据分布。以下是其发展历程及关键论文和模型的梳理:

1. 理论基础与早期探索(2015)

2015年:《Deep Unsupervised Learning using Nonequilibrium Thermodynamics》(ICML 2015)

作者:Jascha Sohl-Dickstein 等

论文链接:https://arxiv.org/abs/1503.03585

贡献:首次将非平衡统计物理中的扩散过程与生成模型结合,提出通过前向过程逐步加噪和反向过程去噪生成数据。

意义:扩散模型的雏形

2. 关键突破:DDPM(2020)

2020年:《Denoising Diffusion Probabilistic Models》(NeurIPS 2020)

作者:Jonathan Ho 等

模型简称: DDPM

论文链接:https://arxiv.org/abs/2006.11239

贡献:将扩散过程形式化为马尔可夫链,使用U-Net预测噪声。 引入重参数化技巧和简化损失函数,大幅提升训练稳定性。

意义:奠定了现代扩散模型的基础框架。

3. 加速采样与改进

2021年:《Improved Denoising Diffusion Probabilistic Models》(ICML 2021)

模型简称: IDDPM

作者:OpenAI团队

论文链接:https://arxiv.org/abs/2102.09672

代码仓库:https://github.com/openai/improved-diffusion 注:这个代码很重要哦!!!!

贡献: 引入可学习的方差和混合损失,提升生成质量。 提出分类器引导(Classifier Guidance),利用类别信息控制生成。

2021年:《Diffusion Models Beat GANs on Image Synthesis》(NeurIPS 2021)

模型简称:Guided Diffusion

作者:OpenAI团队

贡献:通过更大规模的U-Net架构和自适应归一化(Adaptive Group Normalization),首次在图像生成质量上超越GANs(如BigGAN)。 提出无分类器引导(Classifier-Free Guidance),避免依赖额外分类器。

2021年:《Denoising Diffusion Implicit Models》(ICLR 2021)

模型简称: DDIM

作者:Jiaming Song, Chenlin Meng, Stefano Ermon

贡献:提出了一种加速采样方法,采样50-100步就可以得到近似于1000步的效果。

4. 基于分数的扩散模型(SDE框架)

2019年:《Generative Modeling by Estimating Gradients of the Data Distribution》(NeurIPS 2019)

作者:Yang Song 等

贡献:提出基于分数的生成模型(Score-Based Models),通过估计数据分布的梯度生成样本。

2021年:《Score-Based Generative Modeling through Stochastic Differential Equations》(ICLR 2021)

作者:Yang Song 等

贡献: 将扩散模型与基于分数的方法统一为随机微分方程(SDE)框架。 提出预测器校正器采样(PC Sampler)加速生成。

5. 文本到图像生成

2022年:《Hierarchical Text-Conditional Image Generation with CLIP Latents》(OpenAI, 2022)

模型:DALLE2

贡献:结合CLIP的文本嵌入与扩散模型,实现高质量文本到图像生成。

2022年:《High-Resolution Image Synthesis with Latent Diffusion Models》(CVPR 2022)

作者:Stability AI团队

模型:Stable Diffusion

贡献: 在潜空间(Latent Space)进行扩散,大幅降低计算成本。 引入交叉注意力机制实现多模态(文本/图像)条件生成。

2023年:《SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis》

模型:Stable Diffusion XL(SDXL)

改进:更大规模模型,支持更高分辨率生成。

在整个发展历程中最重要的三篇文章: DDPMIDDPMDDIM ,这三篇大家搞懂了之后,其余的文章看起来也就没有什么压力了。

相关推荐
汗流浃背了吧,老弟!几秒前
语言模型(Language Model)介绍
人工智能·语言模型·自然语言处理
沫儿笙1 分钟前
IGM焊接机器人节气设备
人工智能·机器人
Vadaski8 分钟前
为什么每个团队都需要一套私有 Context 工程
人工智能
人工智能训练26 分钟前
Docker中容器的备份方法和步骤
linux·运维·人工智能·ubuntu·docker·容器·nvidia
高洁0131 分钟前
具身智能-8家国内外典型具身智能VLA模型深度解析
深度学习·神经网络·aigc·transformer·知识图谱
渡我白衣35 分钟前
深入 Linux 内核启动:从按下电源到用户登录的全景解剖
java·linux·运维·服务器·开发语言·c++·人工智能
甄心爱学习1 小时前
数据挖掘11-分类的高级方法
人工智能·算法·分类·数据挖掘
李昊哲小课1 小时前
wsl ubuntu24.04 cuda13 cudnn9 pytorch 显卡加速
人工智能·pytorch·python·cuda·cudnn
小程故事多_801 小时前
LangChain1.0系列:中间件深度解析,让 AI智能体上下文控制不失控
人工智能·中间件·langchain
中国国际健康产业博览会1 小时前
2026第35届中国国际健康产业博览会探索健康与科技的完美结合!
大数据·人工智能