车辆重识别(2021NIPS在图像合成方面,扩散模型打败了gans网络)论文阅读2024/10/01

本文在架构方面的创新:

①增加注意头数量:

使用32⇥32、16⇥16和8⇥8分辨率的注意力,而不是只使用16⇥16

②使用BigGAN残差块

使用Big GAN残差块对激活进行上采样和下采样

③自适应组归一化层

将经过组归一化操作后的时间步和类嵌入到每个残差块

1,那么是如何对生成过程进行引导的?

2,那么具体来说,如何根据当前时刻xt的梯度,来调整xt?



在本文中介绍了两种算法用于分类器指导:

向分类器中输入xt,发现与真实类别匹配概率小,计算对xt的梯度,让xt以一定的包含梯度的步幅进行移动,使得匹配概率增加。其实这里有点像之前卷积神经网络中参数w更新的原理,w也是在梯度方向上移动,以此来使得loss值最小。但是这两种算法不是简单的对xt进行处理,①是对预测的均值μ进行处理,让均值μ在梯度方向上移动。②是对预测的噪声进行处理,让噪声在梯度方向上移动。另外,s可以叫做学习率,主要是控制在梯度方向上移动的步幅,和之前卷积神经网络中的w更新公式中的学习率差不多。

BigGAN残差块是什么意思?




注意力池是什么?


相关推荐
Dmatteratall2 分钟前
目标检测热力图的生成代码(基于GridCam)生成的
人工智能·目标检测·计算机视觉
没学上了9 分钟前
逻辑回归机器学习
人工智能·深度学习·逻辑回归
CITY_OF_MO_GY27 分钟前
Spark-TTS:基于大模型的文本语音合成工具
人工智能·深度学习·语音识别
阿丢是丢心心33 分钟前
【从0到1搞懂大模型】神经网络的实现:数据策略、模型调优与评估体系(3)
人工智能·深度学习·神经网络
新智元34 分钟前
10²⁶参数,AGI 还需 70 年!清华人大预测届时 GPU 总价达 4000 万倍苹果市值
人工智能·openai
何大春41 分钟前
【对话推荐系统综述】Broadening the View: Demonstration-augmented Prompt Learning for CR
论文阅读·人工智能·深度学习·语言模型·prompt·论文笔记
WenGyyyL42 分钟前
使用OpenCV和MediaPipe库——增强现实特效(在手腕添加虚拟手表)
人工智能·opencv·计算机视觉·ar·cv·mediapipe
东临碣石821 小时前
【英伟达AI论文】多模态大型语言模型的高效长视频理解
人工智能·语言模型·自然语言处理
我去热饭1 小时前
【完整记录】基于腾讯云HAI+DeepSeek快速开发法律咨询(小律师)辅助平台过程
人工智能
CoovallyAIHub1 小时前
一码难求的Manus,又对计算机视觉产生冲击?复刻开源版已在路上!
人工智能·深度学习·计算机视觉