【AI学习】扩散模型的一点思考:生成过程为什么要增加噪声项

前面学习了扩散模型,并做了总结PPT

其中有一个疑问:在生成过程中,就是下图的算法2中的第四步,为什么要在预测了噪声项后,Xt减去预测的噪声后,还有再叠加一个噪声项?就是增加的部分。

李宏毅的讲解中,指出,如果不增加这个噪声项,最后就无法有效生成图片。

这两天忽然想到,其实,在前向过程中,每一步都在叠加一个高斯噪声。而在反向过程,每一步都重新估计这个高斯噪声,然后减去预测的噪声,最终恢复图形。但是,看了公式推导我们知道,其实,每一步估计噪声,其实是估计的噪声的均值。如果每一步只是减去一个预测的噪声的均值,那反向过程的每一步就不是如前向过程一样去处理高斯噪声,毕竟均值是一个确定项。所以还要增加前面所说的噪声项目,让反向过程的每一步真正实现减去高斯噪声的目的。

相关推荐
勾股导航3 分钟前
DQN算法
人工智能·强化学习
贵慜_Derek10 分钟前
《从零实现 Agent 系统》连载 07|记忆系统:短期上下文 vs 长期外部记忆
人工智能·设计模式·架构
星辰AI12 分钟前
LLM 安全与对齐技术:构建可信赖的人工智能
人工智能·ai·语言模型
圣殿骑士-Khtangc15 分钟前
CloakBrowser 深度解析:C++ 源码级反检测浏览器,Playwright 的终极替代品
人工智能
05候补工程师26 分钟前
从算法理想向工程现实的跨越:SLAM 核心架构、思维误区与 Nav2 实战避坑指南
人工智能·算法·安全·架构·机器人
threelab30 分钟前
Three.js 加载 3D Tiles 瓦片数据 | 三维可视化 / AI 提示词
开发语言·前端·javascript·人工智能·3d·着色器
韦胖漫谈IT36 分钟前
不当输出处理 - 大语言模型 OWASP TOP 10系列
人工智能·语言模型·自然语言处理
JavaAgent架构师1 小时前
前端AI工程化(九):AI Agent平台前端架构设计
前端·人工智能
阿里云大数据AI技术1 小时前
DataWorks Data Agent:助力淘宝闪购一句话搞定数据开发,让周期从天级到分钟级
人工智能·agent
qcx231 小时前
【系统学AI】03 LLM训练全流程:预训练→SFT→对齐五条路线
人工智能·llm·sft·预训练·奖励模型·对齐·路线