论文阅读——ScanQA

ScanQA: 3D Question Answering for Spatial Scene Understanding

输入:点云P和问题Q,输出:答案A

点云p由三维坐标点组成。本文模型使用额外的点云特征:点云高度、颜色、法线和多视图图像特征,这些特征将 2D 外观特征投影到点云上。将上面这些特征结合,作为模型的3d特征。

ScanQA model网络结构:

模型包括3D &language encoder, 3D & language fusion, and object localization & QA layers

VoteNet的骨干网络是PointNet++,VoteNet的输入是3d特征,输出的是物体候选区域,然后使用非线性层候选物体的表示。

transformer encoder提供K和V

Fusion是一个带有注意力的两层MLP

最上面一层目标定位Object localization module模块是用于决定VoteNet输出的目标框属于该问题的最大似然,也就是,网络会生成很多框,但是只有一部分是和问题相关的,这个模块要把它选出来。使用CEloss。

Object classification module预测了什么物体是和问题有关系的。CEloss。

Answer classification module预测问题的答案。

LOSS:

VoteNet有个检测损失Ldet,还有最上面三个模块的定位损失Lloc,分类损失Lobj,答案损失Lans,四者相加。L = Lans + Lobj + Lloc + Ldet

相关推荐
程序员大狐狸7 分钟前
Ultra X7 358H 笔记本电脑,本地三个大模型接入 DeepSeek Harness 桌面版的过程与方法
人工智能·llm
W***25927 分钟前
深度解读Work Agent长程任务拆解与执行机制
人工智能
付威20238 分钟前
Provider 不属于 Agent 核心:rpi 的分层理由与收益
人工智能
草上飞952712 分钟前
零知识证明能证明算对了,却证明不了没看见
人工智能·深度学习·llm
生石花12 分钟前
《我和AI的28天》Day 3-6:让AI学会点菜,我学会了不被它骗
人工智能
W***259214 分钟前
2026企业AI办公工具选型指南:适合团队使用的AI办公产品有哪些
大数据·人工智能
9i编程14 分钟前
4. 带 AI 从零搭低代码平台·踩坑实录:回头补 change-2,欠的账一条条还
人工智能·openai·ai编程
用户0975816121316 分钟前
DeepSeek V4.1-Flash-1017 发布:当"许愿式编程"成为 API 调用
人工智能
元宇宙时间16 分钟前
SPA将于10月18日20:08正式上线,开启生态发展新篇章
人工智能
预知同行17 分钟前
token 自由之后:我把本地小模型接进了日常开发工作流
人工智能