CLIP Surgery for Better Explainability with Enhancement in Open-Vocabulary Tasks（CVPR2023）
M = norm ( resize ( reshape ( F i ˉ ∥ F i ‾ ∥ 2 ⋅ ( F t ∥ F t ‾ ∥ 2 ) ⊤ ) ) ) M=\operatorname{norm}\left(\operatorname{resize}\left(\operatorname{reshape}\left(\frac{\boldsymbol{F}{\bar{i}}}{\left\|\boldsymbol{F}{\underline{i}}\right\|{2}} \cdot\left(\frac{\boldsymbol{F}{t}}{\left\|\boldsymbol{F}{\underline{t}}\right\|{2}}\right)^{\top}\right)\right)\right) M=norm resize reshape Fi 2Fiˉ⋅( Ft 2Ft)⊤
重点是CLIP的图可视化，上面是CLIP Surgery可视化Similarity map的公式
贡献：
1.发现CLIP可视化结果（相似度图）和人的感知是反的，集中在背景（flatten transformer做q可视化，集中在前景
），认为是QK self-attention导致，最相似的token并不是本身或者相同语义区域，而是一些背景的噪声。而用vv attention就不会出现错误的关联。出现这种情况的原因主要是训练的pooling不合适,提出了CLIP Architecture Surgery，如模型图所示
x ^ i + 1 = { None i < d f attn ( x i , { ϕ v } ) + x i i = d , f attn n v ( x i , { ϕ v } ) + x ^ i i > d , ∀ T & A x i + 1 = { f F F N ( x i ′ ) + x i ′ , s.t. x i ′ = f a t t n q k ( x i , { ϕ q , ϕ k , ϕ v } ) + x i , ∀ T & A f res ( x i ) + x i , ∀ R e s \begin{array}{l} \hat{x}{i+1}=\left\{\begin{array}{ll} \text { None } & i<d \\ f{\text {attn }}\left(x_{i},\left\{\phi_{v}\right\}\right)+x_{i} & i=d, \\ f_{\text {attn } n_{v}}\left(x_{i},\left\{\phi_{v}\right\}\right)+\hat{x}{i} & i>d \end{array}, \forall T \& A\right. \\ x{i+1}=\left\{\begin{array}{ll} f_{F F N}\left(x_{i}^{\prime}\right)+x_{i}^{\prime}, \text { s.t. } & \\ x_{i}^{\prime}=f_{a t t n_{q k}}\left(x_{i},\left\{\phi_{q}, \phi_{k}, \phi_{v}\right\}\right)+x_{i} & , \forall T \& A \\ f_{\text {res }}\left(x_{i}\right)+x_{i} & , \forall R e s \end{array}\right. \\ \end{array} x^i+1=⎩ ⎨ ⎧ None fattn (xi,{ϕv})+xifattn nv(xi,{ϕv})+x^ii<di=d,i>d,∀T&Axi+1=⎩ ⎨ ⎧fFFN(xi′)+xi′, s.t. xi′=fattnqk(xi,{ϕq,ϕk,ϕv})+xifres (xi)+xi,∀T&A,∀Res
2.发现CLIP可视化有非常多的噪声响应
算取一个冗余特征，多类的情况显著的类会影响其他的类（带偏了）。所以我们用类之间的分数作为权重，对每个特征做类别的加权，来抑制显著类的影响。然后在类别维度（Nt，text token的数量）求均值 作为冗余特征，并对每个特征减去冗余特征，然后求和得到余弦相似度。对于单个类来说，如交互式分割和多模态可视化，则用空文本特征作为冗余特征 （知乎上看到这句话才明白，看的一脸懵逼）。category dimension 是(Nt)
具体如下：
- 先算出multiplied features [Ni，Nt，C]： F m = F ^ i ∥ F ^ i ∥ 2 ⊙ F ^ t ∥ F ^ t ∥ 2 F_m=\frac{\hat{F}_i}{\|\hat{F}_i\|_2}\odot\frac{\hat{F}_t}{\|\hat{F}_t\|_2} Fm=∥F^i∥2F^i⊙∥F^t∥2F^t
沿C方向做逐元素乘法
- 再算similarity score [1，Nt]： s = s o f t m a x ( F c ∥ F c ∥ 2 ⋅ ( F t ∥ F t ∥ 2 ) ⊤ ⋅ τ ) s=softmax(\frac{F_c}{\|F_c\|_2}\cdot(\frac{F_t}{\|F_t\|_2})^\top\cdot\tau) s=softmax(∥Fc∥2Fc⋅(∥Ft∥2Ft)⊤⋅τ)
[CLS]乘token[Nt，C]算相似度
- 再算category weight [1，Nt]： w = s m e a n ( s ) w=\frac s{mean(s)} w=mean(s)s
- 再算冗余特征common and redundant features [Ni，1，C]： F r = m e a n ( F m ⊙ e x p a n d ( w ) ) F_r=mean(F_m\odot expand(w))\mathrm{~} Fr=mean(Fm⊙expand(w))
沿C方向做，空文本相似度最大的？
- 最后算common and redundant features [Ni，Nt]： S = s u m ( F m − e x p a n d ( F r ) ) S=sum(F_m-expand(F_r))~ S=sum(Fm−expand(Fr)) （去掉冗余特征）
模型
不参与训练，只在推理
实验
错误的self-attention也能解释为什么有人删掉CLIP中ResNet的最后一个self-attention可以做可视化。但是ViT每层都是self-attention，所以现有的方法在ViT上表现很差(全是self-attention删最后一层没用)
开放多标签分类
除此之外我们的算法做open-vocabulary的多标签分类也有效果，可以作为一种后处理任意插到算法里面来提高mAP。原理是抑制冗余特征后会让误报少一些。注意，单类没有效果，因为冗余特征是一个common bias，不改变单张图别之间的位次，而是影响跨图之间的排位来减少误报
多模态可解释性
做了多模态的可解释性，解释CLIP训练过程中文本和图片是怎么匹配的，也发现了一些有趣的现象。比如CLIP训练数据一般关注部分物体，如第一张图片只关注了自行车。而且CLIP对文本也有一定的感知，如最后一张。对于文本的解释，一些不重要的词如 'in' 'the' '.' 也经常也有高响应，而且结束符[end]是最高频的。这说明clip会把全局特征编码到固定的token中。
