《PromptAD》实验步骤

训练阶段:

步骤1: 输入正常样本图像

输入 : 正常样本图像

操作 : 在视觉编码器(VV-CLIP)中提取全局特征(CLS特征)和局部特征(ViT块特征)。

输出: 视觉特征(全局特征 (z) 和局部特征 (F))。

步骤2: 构建提示

输入 : 正常对象名称(如"cable")、手动异常后缀(如"with crack")和随机初始化的可学习token。

操作 :

语义连接(SC) :

◦ 生成正常提示(NP): ([P_1][P_2]...[P_{E_N}][obj.])(可学习前缀+对象名)。

◦ 生成手动异常提示(MAP): 将NP与手动异常后缀拼接(如 ([P_1][P_2]...[P_{E_N}][obj.][with][crack]))。

◦ 生成可学习异常提示(LAP): 将NP与可学习后缀拼接(如 ([P_1][P_2]...[P_{E_N}][obj.][A_1]...[A_{E_A}]))。

文本编码器(CLIP Text Encoder) : 将NP、MAP、LAP编码为特征向量。

输出: 正常提示特征 (g(s^n))、异常提示特征 (g(s^m)) 和 (g(s^l))。

步骤3: 损失计算与优化

输入 : 视觉特征 (z)、提示特征 (g(sn))、(g(sm))、(g(s^l))。

操作 :

对比损失((\mathcal{L}_{\text{clip}})) : 最小化正常视觉特征与正常提示特征的距离,最大化其与异常提示特征的距离。

显式异常边界损失((\mathcal{L}_{\text{ema}})) : 通过超参数强制控制正常原型与异常原型的间隔。

对齐损失((\mathcal{L}_{\text{align}})) : 对齐MAP和LAP的分布。

优化器更新 : 仅更新提示参数(NP和LAP的token)。

输出: 优化后的提示参数。

步骤4: 存储正常特征记忆

输入 : 中间层局部特征 (F)。

操作 : 将训练集中所有正常样本的ViT中间层特征(去除CLS特征)存入内存 (R)。

输出: 正常特征记忆库 (R)。


测试阶段:

步骤1: 输入测试图像

输入 : 测试图像(正常或异常)。

操作 : 通过VV-CLIP提取全局特征 (z_t) 和局部特征 (F_t)。

输出: 测试视觉特征 (z_t) 和 (F_t)。

步骤2: 计算提示引导异常分数

输入 : 训练后的提示参数(NP、MAP、LAP)。

操作 :

文本编码器 : 生成正常原型 (\overline{w}^n) 和异常原型 (\overline{w}^a)。

相似度计算 :

◦ 图像级分数 (S_t = \frac{\exp(\langle z_t, \overline{w}^n \rangle)}{\exp(\langle z_t, \overline{w}^n \rangle) + \exp(\langle z_t, \overline{w}^a \rangle)})。

◦ 像素级分数图 (M_t = \text{softmax}(\langle F_t, \overline{w}^n \rangle - \langle F_t, \overline{w}^a \rangle))。

输出: 图像级分数 (S_t) 和像素级分数图 (M_t)。

步骤3: 计算视觉引导异常分数

输入 : 测试局部特征 (F_t) 和正常记忆库 (R)。

操作 : 对每个空间位置 ((i,j)),计算 (F_t[i,j]) 与 (R) 的最小余弦距离:

M_v\[i,j\] = \\min_{r \\in R} \\frac{1}{2}(1 - \\langle F_t\[i,j\], r \\rangle)

输出: 视觉引导分数图 (M_v)。

步骤4: 融合结果

输入 : (S_t)、(M_t)、(M_v)。

操作 :

像素级融合 : (M_{pix} = 1.0 / (1.0/M_v + 1.0/M_t))(调和平均)。

图像级融合 : (S_{img} = 1.0 / (1.0/\max(M_v) + 1.0/S_t))。

输出: 最终异常分数图 (M_{pix}) 和图像级分数 (S_{img})。


关键操作位置:

  1. 训练:在VV-CLIP视觉编码器和CLIP文本编码器中完成特征提取与提示学习。
  2. 测试:直接调用训练好的提示参数和内存库 (R),无需反向传播。
相关推荐
没有钱的钱仔15 分钟前
深度学习概念
人工智能·深度学习
星尘安全19 分钟前
研究人员发现严重 AI 漏洞,Meta、英伟达及微软推理框架面临风险
人工智能·microsoft·网络安全·程序员必看
共绩算力22 分钟前
【共绩 AI 小课堂】Class 5 Transformer架构深度解析:从《Attention Is All You Need》论文到现代大模型
人工智能·架构·transformer·共绩算力
极客BIM工作室24 分钟前
VideoCAD:大规模CAD UI交互与3D推理视频数据集,开启智能CAD建模新范式
人工智能·机器学习
帮帮志25 分钟前
01.【AI大模型对话】通过简化大语言模型(LLM)技术来实现对话
人工智能·ai·语言模型·大模型·智能
蒋星熠27 分钟前
常见反爬策略与破解反爬方法:爬虫工程师的攻防实战指南
开发语言·人工智能·爬虫·python·网络安全·网络爬虫
陈橘又青29 分钟前
CANN在智能安防场景中的落地实践:释放硬件潜能,简化AI开发
人工智能·网络协议·学习·ai·编辑器
是店小二呀29 分钟前
在家搭个私人影院?LibreTV+cpolar,随时随地看片自由
开发语言·人工智能
爱看科技1 小时前
智能眼镜AR领航XR市场增长浪潮,三星/微美全息布局竞速引领AI消费新势力!
人工智能·ar·xr
这张生成的图像能检测吗1 小时前
(论文速读)多任务深度学习框架下基于Lamb波的多损伤数据集构建与量化算法
人工智能·深度学习·算法·数据集·结构健康监测