扩散模型 diffusion model

模型原理

基于扩散模型实现 AI 绘画包括两个过程------加噪过程和去噪过程。

e.墨水->热水

每一步的加噪结果仅依赖于上一步的加噪结果和一个加噪过程,而这个加噪过程依赖于当前时间步 t,因此整个加噪过程可以看成参数化的马尔科夫链。

马尔可夫链:数学模型,用于描述随机事件的序列,其中每个事件的概率仅取决于上一个事件的状态,而与过去的事件无关。

扩散模型 vs GAN

训练与推理

加噪-训练环节

对于一张干净的图像,可以仅通过一次计算得到任意 t 步加噪声的结果。

训练:假定我们已经收集了一个用于训练扩散模型的训练集,整个训练过程便是不断重复下面这六个步骤。

  1. 每次从数据集中随机抽取一张图片。

  2. 随机从 1 至 1000 中选择一个时间步 t。

  3. 随机生成一个高斯噪声。

  4. 根据上述加噪环节的公式,一次计算直接得到第 t 步加噪的结果图像。

  5. 将时间步 t 和加噪图像作为 UNet 的输入去预测一个噪声值。

  6. 使用第五步预测的噪声值和第三步随机生成的噪声值,计算数值误差,并回传梯度。

去噪-推理环节

如何根据当前时间步的噪声图预测上一步加入的噪声?

希望得到这样一个模型,输入第 t 步加噪结果和时间步 t,预测从第 t-1 步到第 t 步噪声值。主流的方法是训练一个 UNet 模型来预测噪声图。因为噪声值和输入图的分辨率是一致的,而 UNet 模型常用于图像分割任务,输入输出的分辨率相同,使用 UNet 来完成这个任务再合适不过了。

如何在当前时间步的噪声图上去除这些噪声?

采样器,根据加噪结果和噪声值,准确地去除噪声。

推理:

  1. 我们随机生成一个高斯噪声,作为第 1000 步加噪之后的结果。

  2. 将这个噪声和时间步 1000 作为已经训练好的 UNet 的输入,预测第 999 步引入的噪声。

  3. 使用采样器在步骤 1 的高斯噪声中去除步骤 2 预测的噪声,得到一张干净一点的图像。

相关推荐
小明_GLC17 小时前
Falcon-TST: A Large-Scale Time Series Foundation Model
论文阅读·人工智能·深度学习·transformer
Python_Study202517 小时前
制造业数据采集系统选型指南:从技术挑战到架构实践
大数据·网络·数据结构·人工智能·架构
一只大侠的侠17 小时前
【工业AI热榜】LSTM+GRU融合实战:设备故障预测准确率99.3%,附开源数据集与完整代码
人工智能·gru·lstm
weisian15117 小时前
入门篇--知名企业-26-华为-2--华为VS阿里:两种科技路径的较量与共生
人工智能·科技·华为·阿里
棒棒的皮皮17 小时前
【深度学习】YOLO模型精度优化 Checklist
人工智能·深度学习·yolo·计算机视觉
微尘hjx17 小时前
【数据集 01】家庭室内烟火数据集(按比例划分训练、验证、测试)包含训练好的yolo11/yolov8模型
深度学习·yolov8·yolo11·训练模型·烟火数据集·家庭火灾数据集·火灾数据集
高洁0117 小时前
CLIP 的双编码器架构是如何优化图文关联的?(2)
python·深度学习·机器学习·知识图谱
线束线缆组件品替网17 小时前
Bulgin 防水圆形线缆在严苛环境中的工程实践
人工智能·数码相机·自动化·软件工程·智能电视
Cherry的跨界思维17 小时前
【AI测试全栈:Vue核心】22、从零到一:Vue3+ECharts构建企业级AI测试可视化仪表盘项目实战
vue.js·人工智能·echarts·vue3·ai全栈·测试全栈·ai测试全栈
冬奇Lab17 小时前
【Cursor进阶实战·07】OpenSpec实战:告别“凭感觉“,用规格驱动AI编程
人工智能·ai编程