【Diffusion Model】发展历程

扩散模型从出现发展到今天已经成为深度学习领域的一个庞大的分支,对于刚刚踏入扩散模型领域的同学,了解扩散模型发展的历程才能在这浩瀚的文献之海中找到到达彼岸的一条航线。

扩散模型(Diffusion Models)是近年来快速发展的生成模型家族,其核心思想是通过逐步添加和去除噪声来学习数据分布。以下是其发展历程及关键论文和模型的梳理:

1. 理论基础与早期探索(2015)

2015年:《Deep Unsupervised Learning using Nonequilibrium Thermodynamics》(ICML 2015)

作者:Jascha Sohl-Dickstein 等

论文链接:https://arxiv.org/abs/1503.03585

贡献:首次将非平衡统计物理中的扩散过程与生成模型结合,提出通过前向过程逐步加噪和反向过程去噪生成数据。

意义:扩散模型的雏形

2. 关键突破:DDPM(2020)

2020年:《Denoising Diffusion Probabilistic Models》(NeurIPS 2020)

作者:Jonathan Ho 等

模型简称: DDPM

论文链接:https://arxiv.org/abs/2006.11239

贡献:将扩散过程形式化为马尔可夫链,使用U-Net预测噪声。 引入重参数化技巧和简化损失函数,大幅提升训练稳定性。

意义:奠定了现代扩散模型的基础框架。

3. 加速采样与改进

2021年:《Improved Denoising Diffusion Probabilistic Models》(ICML 2021)

模型简称: IDDPM

作者:OpenAI团队

论文链接:https://arxiv.org/abs/2102.09672

代码仓库:https://github.com/openai/improved-diffusion 注:这个代码很重要哦!!!!

贡献: 引入可学习的方差和混合损失,提升生成质量。 提出分类器引导(Classifier Guidance),利用类别信息控制生成。

2021年:《Diffusion Models Beat GANs on Image Synthesis》(NeurIPS 2021)

模型简称:Guided Diffusion

作者:OpenAI团队

贡献:通过更大规模的U-Net架构和自适应归一化(Adaptive Group Normalization),首次在图像生成质量上超越GANs(如BigGAN)。 提出无分类器引导(Classifier-Free Guidance),避免依赖额外分类器。

2021年:《Denoising Diffusion Implicit Models》(ICLR 2021)

模型简称: DDIM

作者:Jiaming Song, Chenlin Meng, Stefano Ermon

贡献:提出了一种加速采样方法,采样50-100步就可以得到近似于1000步的效果。

4. 基于分数的扩散模型(SDE框架)

2019年:《Generative Modeling by Estimating Gradients of the Data Distribution》(NeurIPS 2019)

作者:Yang Song 等

贡献:提出基于分数的生成模型(Score-Based Models),通过估计数据分布的梯度生成样本。

2021年:《Score-Based Generative Modeling through Stochastic Differential Equations》(ICLR 2021)

作者:Yang Song 等

贡献: 将扩散模型与基于分数的方法统一为随机微分方程(SDE)框架。 提出预测器校正器采样(PC Sampler)加速生成。

5. 文本到图像生成

2022年:《Hierarchical Text-Conditional Image Generation with CLIP Latents》(OpenAI, 2022)

模型:DALLE2

贡献:结合CLIP的文本嵌入与扩散模型,实现高质量文本到图像生成。

2022年:《High-Resolution Image Synthesis with Latent Diffusion Models》(CVPR 2022)

作者:Stability AI团队

模型:Stable Diffusion

贡献: 在潜空间(Latent Space)进行扩散,大幅降低计算成本。 引入交叉注意力机制实现多模态(文本/图像)条件生成。

2023年:《SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis》

模型:Stable Diffusion XL(SDXL)

改进:更大规模模型,支持更高分辨率生成。

在整个发展历程中最重要的三篇文章: DDPMIDDPMDDIM ,这三篇大家搞懂了之后,其余的文章看起来也就没有什么压力了。

相关推荐
TheRouter3 分钟前
LLM 流式输出工程实践:SSE、背压、断流重连与JSON 流解析的 6 个生产陷阱
人工智能·json
AI浩3 分钟前
OpenCV 检测流程中损坏 JPEG 图片的定位与清理
人工智能·opencv·计算机视觉
算力视野4 分钟前
AMD Instinct MI325X/MI350X路线图深度解析:288GB HBM3e如何硬刚英伟达?
人工智能·gpu算力
中间件XL4 分钟前
ai-agent框架spring ai/alibaba源码原理分析(二) 模型,chat模型,chatclient
人工智能·ai agent·spring ai·agent框架
得物技术8 分钟前
用 LLM Agent 重构告警排查流程|得物技术
java·人工智能·后端
容智信息14 分钟前
提示词工程不是写长说明书,而是做语义压缩
人工智能·prompt·安全威胁分析·提示词·智能体
zandy101121 分钟前
体系化AI创新赋能产业升级 联想集团树立智能时代企业创新标杆
大数据·人工智能
dehuisun21 分钟前
openspec基础实战
人工智能
MacroZheng26 分钟前
阿里Qoder + GLM-5.1,夯爆了!
前端·vue.js·人工智能