【Diffusion Model】发展历程

扩散模型从出现发展到今天已经成为深度学习领域的一个庞大的分支,对于刚刚踏入扩散模型领域的同学,了解扩散模型发展的历程才能在这浩瀚的文献之海中找到到达彼岸的一条航线。

扩散模型(Diffusion Models)是近年来快速发展的生成模型家族,其核心思想是通过逐步添加和去除噪声来学习数据分布。以下是其发展历程及关键论文和模型的梳理:

1. 理论基础与早期探索(2015)

2015年:《Deep Unsupervised Learning using Nonequilibrium Thermodynamics》(ICML 2015)

作者:Jascha Sohl-Dickstein 等

论文链接:https://arxiv.org/abs/1503.03585

贡献:首次将非平衡统计物理中的扩散过程与生成模型结合,提出通过前向过程逐步加噪和反向过程去噪生成数据。

意义:扩散模型的雏形

2. 关键突破:DDPM(2020)

2020年:《Denoising Diffusion Probabilistic Models》(NeurIPS 2020)

作者:Jonathan Ho 等

模型简称: DDPM

论文链接:https://arxiv.org/abs/2006.11239

贡献:将扩散过程形式化为马尔可夫链,使用U-Net预测噪声。 引入重参数化技巧和简化损失函数,大幅提升训练稳定性。

意义:奠定了现代扩散模型的基础框架。

3. 加速采样与改进

2021年:《Improved Denoising Diffusion Probabilistic Models》(ICML 2021)

模型简称: IDDPM

作者:OpenAI团队

论文链接:https://arxiv.org/abs/2102.09672

代码仓库:https://github.com/openai/improved-diffusion 注:这个代码很重要哦!!!!

贡献: 引入可学习的方差和混合损失,提升生成质量。 提出分类器引导(Classifier Guidance),利用类别信息控制生成。

2021年:《Diffusion Models Beat GANs on Image Synthesis》(NeurIPS 2021)

模型简称:Guided Diffusion

作者:OpenAI团队

贡献:通过更大规模的U-Net架构和自适应归一化(Adaptive Group Normalization),首次在图像生成质量上超越GANs(如BigGAN)。 提出无分类器引导(Classifier-Free Guidance),避免依赖额外分类器。

2021年:《Denoising Diffusion Implicit Models》(ICLR 2021)

模型简称: DDIM

作者:Jiaming Song, Chenlin Meng, Stefano Ermon

贡献:提出了一种加速采样方法,采样50-100步就可以得到近似于1000步的效果。

4. 基于分数的扩散模型(SDE框架)

2019年:《Generative Modeling by Estimating Gradients of the Data Distribution》(NeurIPS 2019)

作者:Yang Song 等

贡献:提出基于分数的生成模型(Score-Based Models),通过估计数据分布的梯度生成样本。

2021年:《Score-Based Generative Modeling through Stochastic Differential Equations》(ICLR 2021)

作者:Yang Song 等

贡献: 将扩散模型与基于分数的方法统一为随机微分方程(SDE)框架。 提出预测器校正器采样(PC Sampler)加速生成。

5. 文本到图像生成

2022年:《Hierarchical Text-Conditional Image Generation with CLIP Latents》(OpenAI, 2022)

模型:DALLE2

贡献:结合CLIP的文本嵌入与扩散模型,实现高质量文本到图像生成。

2022年:《High-Resolution Image Synthesis with Latent Diffusion Models》(CVPR 2022)

作者:Stability AI团队

模型:Stable Diffusion

贡献: 在潜空间(Latent Space)进行扩散,大幅降低计算成本。 引入交叉注意力机制实现多模态(文本/图像)条件生成。

2023年:《SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis》

模型:Stable Diffusion XL(SDXL)

改进:更大规模模型,支持更高分辨率生成。

在整个发展历程中最重要的三篇文章: DDPM,IDDPM,DDIM ,这三篇大家搞懂了之后,其余的文章看起来也就没有什么压力了。

相关推荐
老徐聊GEO4 小时前
把“安徽“写进题面之后:多平台AI推荐名单的区域扰动测量(2026)
前端·人工智能·算法·geo优化
人工智能培训4 小时前
具身智能:让人工智能拥有物理世界感知能力
大数据·人工智能·学习·算法·机器学习
贾伟康4 小时前
【健康菜谱助手|04】HarmonyOS ArkTS 一周膳食计划实战:管理日期、餐次与菜谱替换的联动
软件测试·移动开发·harmonyos·arkts·arkui·1024程序员节
科技小花4 小时前
AI算力需求井喷,中立云如何承接大模型与具身智能需求
人工智能
小朱爱编程1234 小时前
AI点了两次发布,我多了两篇事故
数据库·人工智能·大模型·软件工程
网易易盾4 小时前
AI Agent 的安全边界在哪里?四条边界与上线前后的防护落地
人工智能·安全
愤怒火龙果4 小时前
AIGC 安全学习笔记01 深伪检测・文本隐写・LoRA
人工智能·aigc·ai安全
AI浩4 小时前
Xiaomi-Lens-0 技术报告
人工智能·计算机视觉·1024程序员节
Rocky Ding*4 小时前
【三年面试五年模拟】2026-10-20_淘天AI应用研发一面面经全解析
论文阅读·人工智能·深度学习·机器学习·面试·aigc·ai-native
Latchh4 小时前
WebP转JPG背景变黑、边缘毛刺?4种方法
图像处理·人工智能·计算机视觉