车辆重识别(2021NIPS在图像合成方面,扩散模型打败了gans网络)论文阅读2024/10/01

本文在架构方面的创新:

①增加注意头数量:

使用32⇥32、16⇥16和8⇥8分辨率的注意力,而不是只使用16⇥16

②使用BigGAN残差块

使用Big GAN残差块对激活进行上采样和下采样

③自适应组归一化层

将经过组归一化操作后的时间步和类嵌入到每个残差块

1,那么是如何对生成过程进行引导的?

2,那么具体来说,如何根据当前时刻xt的梯度,来调整xt?



在本文中介绍了两种算法用于分类器指导:

向分类器中输入xt,发现与真实类别匹配概率小,计算对xt的梯度,让xt以一定的包含梯度的步幅进行移动,使得匹配概率增加。其实这里有点像之前卷积神经网络中参数w更新的原理,w也是在梯度方向上移动,以此来使得loss值最小。但是这两种算法不是简单的对xt进行处理,①是对预测的均值μ进行处理,让均值μ在梯度方向上移动。②是对预测的噪声进行处理,让噪声在梯度方向上移动。另外,s可以叫做学习率,主要是控制在梯度方向上移动的步幅,和之前卷积神经网络中的w更新公式中的学习率差不多。

BigGAN残差块是什么意思?




注意力池是什么?


相关推荐
魔力之心14 分钟前
人工智能与机器学习原理精解【29】
人工智能·机器学习
AI极客菌21 分钟前
Stable Diffusion绘画 | 插件-Deforum:动态视频生成
人工智能·ai作画·stable diffusion·aigc·音视频·midjourney·人工智能作画
YouyuanXway25 分钟前
消费电子制造企业如何使用SAP系统提升运营效率与竞争力
大数据·人工智能
5pace1 小时前
动手学深度学习(李沐)PyTorch 第 6 章 卷积神经网络
pytorch·深度学习·cnn
Hoper.J2 小时前
用 LoRA 微调 Stable Diffusion:拆开炼丹炉,动手实现你的第一次 AI 绘画
人工智能·stable diffusion·lora·微调·aigc·文生图·ai绘画
正义的彬彬侠2 小时前
正态分布的极大似然估计一个示例,详细展开的方程求解步骤
人工智能·决策树·机器学习·概率论
墨绿色的摆渡人2 小时前
论文笔记(四十七)Diffusion Policy: Visuomotor Policy
论文阅读
nick98762 小时前
信号处理之中值滤波
人工智能·算法·信号处理
行十万里人生2 小时前
信号处理: Block Pending Handler 与 SIGKILL/SIGSTOP 实验
c++·后端·深度学习·ubuntu·serverless·信号处理·visual studio code