【提示学习论文】AAPL: Adding Attributes to Prompt Learning for Vision-Language Models

AAPL: Adding Attributes to Prompt Learning for Vision-Language Models(2024CVPR)

  • 问题:在unseen class上,性能提升有限
  • 解决:在提示学习中引入对抗性标记嵌入adversarial token embedding, 将低层次视觉增强特征与高层次类别信息解耦,解决传统零样本学习技术中的数据增强问题。
  • AdTriplet损失函数

对比CoCoOp和APPL


  • 1、2:类别
  • A、B:不同的随机增强
  • pull:对图像进行不同的随机增强后,即时希望图像有所不同,但它们仍然是同一个类别。因此增量元标记通过将相同类别的增量原标记拉近,来学习相似的属性特征。
  • push:对于不同类别的图像,它们的增量元标记应该学习到不同的属性特征。因此需要embedding中将它们推开来学习。

动机

meta token不能有效的捕捉语义信息

提出 delta meta token

  • 需要两个类别
  • 两种随机增强(从SimCLR提出的14种无重复增强方法种随机选择两种)

对抗性三重损失

constraints-2

  • Δpai 1A
  • 正对 Δpai 2A:不同类别,相同增强
  • 反对 Δpai 1B:相同类别,不同增强

constraints-4

总损失

实验

base to new 76.01

总结

  • 在CoCoOp上的改进,在原本的meta-net中,增加了Adtriplet loss。通过在两个类别,两种随机增强之间计算,更新meta-net。
  • 然后将meta token加入到Learnable prompt里面,和CoCoOp一样

疑问

为什么这样做能达到解耦的效果?

  • 增量元标记Δmeat tokens:从同一类别不同增强的图像中相减得到,主要捕捉图像增强的变化(低层次特征差异,与类别的高层语义信息无关)
  • 使得增量元标记可以专注于增强引入的低层次特征,而非类别本身的特征

对抗三重损失的作用?

  • 拉近同一类别的不同增强版本
  • 推开不同类别的增量元标记,进一步区分类别之间的特征
  • 帮助低层次的视觉特征(亮度、颜色)与高层次的语义特征(类别)之间,建立清晰的界限
  • 使得模型学会增强特征与类别特征的区分能力,有效将两者解耦

可学习提示?

  • 最后将增量元标记中的属性特定偏差引入到learnable prompt中,此时增量元标记包含低层次增强特征,让提示学习可以专注于高层次类别信息。
相关推荐
XLYcmy2 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 上
llm·prompt·模糊测试·漏洞修复·漏洞检测·deepseek·消融实验
电科_银尘3 小时前
【深度学习项目实战·22】灰度图像着色:用小型U-Net学习从灰度到RGB
人工智能·深度学习·学习
XLYcmy4 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 下
机器学习·llm·prompt·api·token·漏洞修复·漏洞检测
QuZhengRong4 小时前
【AI】Agent 全栈进阶|AgentScope 沙箱源码解析
python·学习·ai·agent·沙箱
Dawson Zhu9 小时前
【分布式训练⑧】通信优化:NCCL、Ring AllReduce与计算通信重叠
人工智能·语言模型·架构·aigc·agi
承渊政道9 小时前
【Python编程—从入门到实践】(用户账户:给Django网站装上登录系统,让每个人拥有自己的学习笔记)
python·学习·pycharm·django
诗句藏于尽头10 小时前
游戏《完美神话》-使用Ai-agent进行修复已停服游戏到本地成功部署以及GM端网页完整教程
人工智能·学习·游戏
希和202711 小时前
51 单片机学习笔记:LCD1602、独立按键、I2C 与 AT24C02 掉电存储(江科大课程小白笔记)
笔记·单片机·学习
承渊政道11 小时前
【Python编程—从入门到实践】(设置样式并部署:给Django网站换新装,把学习笔记发布到互联网)
python·学习·pycharm·django
~kiss~1 天前
A Survey of On-Policy Distillation for LLMs 学习(一)
学习