【论文阅读】Dynamic Adversarial Patch for Evading Object Detection Models

一、介绍

这篇文章主要是针对目标检测框架的攻击,不同于现有的攻击方法,该论文主要的侧重点是考虑视角的变化问题,通过在车上布置多个显示器,利用视角动态选择哪一个显示器播放攻击内容,通过这种方法达到隐蔽与攻击的兼顾。

二、方法

文章的威胁模型假定攻击者对被攻击的模型有完全的了解,即白盒攻击。攻击分为两种情况:物体静止相机移动和物体移动相机静止。理想情况应该是有一个外部设备来实时确定被攻击者与攻击者的位置关系,但是这里为了简化实验,选择的是由实验者控制相机和攻击车辆的位置关系。

攻击的方法依然遵循原来的套路,采用叠加扰动并使模型性能下降的方法。这里选择的被攻击模型是YOLOV2,训练时手动标记显示器的位置并叠加图像,为了考虑到现实场景下的变化,作者在叠加图像的过程中随机给图像增加了亮度和对比度上的调整。

损失函数部分,考虑到目标检测模型实际上存在两个关键的指标:包围框和类别。这里作者设计了三种损失项:类别、物体以及交叉项。类别是只考虑类别损失,增大预测的类别与真实值之间的差异,同时作者还增加了一个语义类别,简单来说就是尽量不让车被误识别为自行车、卡车,而是被误识别为道路、树木等杂七杂八的东西。

物体项则是尽量降低目标检测结果的"置信度"这一项指标,当置信度过低时模型会认为该物体是错误的,从而直接过滤掉这一物体。

除此之外,作者也引入了平滑度的项,用于优化攻击的内容,减小瞩目性。

作者并没有使用显示器的NPS损失,最后的优化函数只包含两个损失项:

相关推荐
cqbzcsq13 天前
CellFlow虚拟细胞论文阅读
论文阅读·人工智能·笔记·学习·生物信息
凌晨一点的秃头猪13 天前
论文阅读 GTI(Graph-based Tree Index): 面向高维空间最近邻搜索的动态图-树混合索引结构
论文阅读
有Li13 天前
PTCMIL:基于提示 token 聚类的全切片图像多实例学习分析文献速递/多模态医学影像最新进展
论文阅读·学习·数据挖掘·聚类·文献·医学生
大模型最新论文速读13 天前
06-16 · LLM 最新论文速览
论文阅读·人工智能·深度学习·机器学习·自然语言处理
stsdddd13 天前
YOLO系列目标检测数据集大全【第二十九期】
yolo·目标检测·目标跟踪
AI棒棒牛13 天前
第 03 讲《监督学习:数据、标签、Loss与训练循环》
人工智能·学习·yolo·目标检测·yolo26
stsdddd14 天前
YOLO系列目标检测数据集大全【第三十期】
yolo·目标检测·目标跟踪
YOLO数据集集合14 天前
无人机航拍地质灾害智能识别 山体滑坡实例分割数据集落地实战 | 泥石流监测 道路险情封堵 深度学习模型训练方案10296期
人工智能·深度学习·yolo·目标检测·无人机
音沐mu.14 天前
【73】墙壁建筑缺陷数据集(有v5/v8模型)/YOLO墙壁建筑缺陷检测
yolo·目标检测·目标检测数据集·墙壁建筑缺陷数据集·墙壁建筑缺陷检测
YOLO数据集集合14 天前
无人机风电设备智能巡检 风机叶片缺陷目标检测数据集实战 | 表面腐蚀漏油识别 工业视觉质检 深度学习模型训练落地10337期
人工智能·深度学习·目标检测·计算机视觉·无人机