【端到端模型】基于稀疏查询的表征特征

网络名称 Q 数据结构 K, V 数据结构 QKV 交互机制与输出
StreamPETR (2023) 物体 Query [N_q, D] 1. 传播Query:第一帧初始化,后续帧继承。 2. 初始化Query:每帧初始化。 各类Query数量固定。 当前帧图像特征, [N_pixels, D] Q生成3D参考点(预测得到),投影到 2D 图像采样KV特征。
Sparse4D (2023) 3D 锚框 [N_anchor, D] (含位置、尺寸、朝向的嵌入) 多视角/多尺度/多帧特征图 [N_features, D] (不同层级特征展平拼接) Q 生成 4D 关键点。 每个 Anchor 生成 [N_anchor, N_keypoints, 4] (t,x,y,z) 关键点,投影到 K/V 上稀疏采样,聚合为 [N_anchor, D]。
SparseDrive (2024) 实例 Query [N_instance, D] (检测、跟踪、建图共用) 图像特征 [N_pixels, D] + 历史实例队列 [N_memory, D] Q 与图像 K/V 做 Cross Attention,同时与历史 Q 交互。 输出更新后的 [N_instance, D],直接接规划头。
SparseAD (2024) 统一稀疏 Query [N_query, D] (跨任务共享) 图像特征 [N_pixels, D] + 历史 Query [N_history, D] Q 跨空间、跨时间、跨任务统一交互。 同一组 Q 通过不同 Head 并行输出多任务结果 [N_query, D_head],无密集 BEV。
相关推荐
loulanyue_2 小时前
从视觉感知到具身世界模型:物理世界中的自我进化智能体——读普林斯顿刘世隆NICE Workshop演讲
人工智能·深度学习
具身AGI3 小时前
世界模型改当裁判,物理AI 物理推理 做判据
人工智能·深度学习·机器学习
ForDreamMusk3 小时前
BERT预训练模型(Encoder-Only架构)
人工智能·深度学习·bert
YOLO数据集集合4 小时前
滑坡检测数据集 | 滑坡检测 地质灾害 无人机巡检 应急响应 目标检测 YOLO格式 深度学习数据集 计算机视觉10670期
深度学习·yolo·目标检测·计算机视觉·无人机·滑坡
小宋10214 小时前
Recursive Language Models 实战:递归处理超长外部文本
人工智能·深度学习·机器学习
I Am a robert girl4 小时前
从最后一帧反推世界:LIFT 如何用布局控制视频生成
深度学习·数码相机·计算机视觉·音视频·视频生成·可控生成·布局控制
song5014 小时前
React Native for OpenHarmony 实战:三方库 react-native-popup-menu 的鸿蒙化适配指南
css·深度学习·react native·react.js·transformer·harmonyos
问天_观心4 小时前
Mistral-7B QLoRA 实战(二):官方权重转换、4-bit NF4 加载与 Base Model 基线测试
人工智能·深度学习·学习·大模型·transformer
AOI小白新手上路4 小时前
深度学习项目模板与机器学习软件工程(MLSE)实践笔记
深度学习·机器学习·软件工程