物理世界中的等距3D对抗样本

论文题目:Isometric 3D Adversarial Examples in the Physical World

会议:NIPS 2022

点云:

点云------表达目标空间分布和目标表面特性的海量点集合,点包含xyz坐标信息 能够包含颜色等其他信息

使用顶点、边和面的数据表征的三维图形的表面,顶点包含坐标信息,面片常用顶点编号来表示,同时可以附加纹理颜色等信息

点云和mesh是常用的3D表示数据、获取容易(使用RGBD相机、结构光相机、激光雷达都可以获取到)、应用广泛(点云常用与自动驾驶、医疗点云数据分割、mesh可以用于3D打印再比如游戏中角色的建模),值得一提的是点云与mesh可以方便地互相转化(利用meshlab、pcl等工具可以从点云数据导出到mesh上,反之也可以在mesh上采样得到点云)

为了适应越来越广泛的点云应用,近年来涌现出了许多点云模型用于完成各类任务如分类、部件分割、语义分割等,常见的如这种基于MLP+POOling层的POINTNET结构、还有基于图卷积的DGCNN、还有一些基于transformer的、基于卷积的.......

对抗样本

在原数据上添加人眼难以识别的细微扰动使得模型分类出错

但深度神经网络是脆弱的,很容易被一些精心设计的数据所攻击,这也是对抗样本的概念,即在原本的干净数据上添加人眼难以识别的细微扰动使得模型分类出错。图中的就是两个很好的例子,比如左图的飞机、瓶子都被攻击成了植物,右图放置于车顶的激光雷达使得该车无法被检测到、3D打印出的对抗mesh由床被识别为板凳。

本质上是在给定约束条件下求最优解

点云攻击方法:

1、点扰动;对现有点改变其位置导致模型分类出错

2、点添加;在当前点云上添加独立的点、簇或小物体导致模型分类出错

3、点删除;根据不同点对于分类结果的贡献删除显著点

总结现有方法存在的问题:

1、首先由目前攻击方法生成的对抗点云仍然存在许多离群点、表面不够平滑,当进一步转化为mesh用于3D打印时,由于重建算法存在误差 很多对抗性较强的点直接被消除掉

2、即使能够被有效重建为mesh,参考左下图中的图一 无法被精准打印出来,图二的情况则是不可察觉性很差

3、现实世界中构造出的对抗物体面临着视角变化,扫描出的点云 许多对抗性较强的位置可能被遗漏掉

提出方法

1)直接对mesh进行攻击,防止引入重建误差

2)使用ε−isometry来约束扰动,提升不可察觉性

3)模拟物理转换时发生的变换,并将其视为max-min问题


实验结果

相关推荐
Struart_R18 小时前
LLaVA-3D,Video-3D LLM,VG-LLM,SPAR论文解读
人工智能·深度学习·计算机视觉·3d·大语言模型·多模态
杀生丸学AI1 天前
【无标题】GAP: 用文本指导对任何点云进行高斯化
3d·aigc·三维重建·视觉大模型·动态重建
audyxiao0012 天前
为了更强大的空间智能,如何将2D图像转换成完整、具有真实尺度和外观的3D场景?
人工智能·计算机视觉·3d·iccv·空间智能
范男2 天前
基于Pytochvideo训练自己的的视频分类模型
人工智能·pytorch·python·深度学习·计算机视觉·3d·视频
点云SLAM2 天前
SLAM文献之-Globally Consistent and Tightly Coupled 3D LiDAR Inertial Mapping
3d·机器人·slam·vgicp算法·gpu 加速·lidar-imu 建图方法·全局匹配代价最小化
LetsonH2 天前
⭐CVPR2025 给3D高斯穿 “UV 衣” 框架[特殊字符]
3d·uv
新启航-光学3D测量3 天前
从 48 小时到 4 小时:三维逆向工程中自动化工具链如何重构扫描建模效率
科技·3d·制造
彩旗工作室3 天前
腾讯混元3D系列开源模型:从工业级到移动端的本地部署
3d·开源·腾讯混元
CG_MAGIC3 天前
主流 3D 模型格式(FBX/OBJ/DAE/GLTF)材质支持与转换操作指南
3d·渲染·动画·材质·贴图·3d 模型格式·材质支持与转换操作指南
计算机科研圈3 天前
ICCV 2025 | 首个3D动作游戏专用VLA模型,打黑神话&只狼超越人类玩家
图像处理·人工智能·3d·黑神话