AAAI 2026|港科大等提出ReconVLA:利用视觉重构引导,刷新机器人操作精度!(含代码)

点击原文链接,查看AAAI 2026论文合集

一、导读

近年来,视觉-语言-动作模型(Vision-Language-Action,VLA)在机器人控制中展现出融合多模态理解与动作执行的能力。

然而,现有模型在感知图像时视觉注意力(visual attention)往往分散,难以聚焦于需要操作的目标物体,导致执行动作不准确。

为此,本文提出了一种重构式视觉-语言-动作模型 ReconVLA ,通过引入一个隐式 grounding 机制,让模型在训练过程中学习重建图像中与任务相关的"凝视区域(gaze region)",从而引导其更准确地关注目标物体。

该方法在模拟和真实机器人任务中均表现出更精准的操作能力和良好的泛化性能。

二、论文基本信息

  • 论文标题:ReconVLA: Reconstructive Vision-Language-Action Model as Effective Robot Perceiver

  • 作者与单位:Wenxuan Song 等,来自香港科技大学(广州)、西湖大学、浙江大学、莫纳什大学等机构

  • 来源:AAAI 2026

  • 代码链接:https://github.com/OpenHelix-Team/ReconVLA

三、主要贡献与创新

  1. 提出 ReconVLA ,一种基于隐式视觉 grounding 的 VLA 模型,通过重建凝视区域提升视觉注意力精度。

  2. 构建大规模机器人预训练数据集,包含 100k 轨迹、200 万样本,增强模型泛化能力。

  3. 设计视觉重构模块,使用扩散变换器(diffusion transformer)从噪声中重建目标区域。

  4. 在模拟与真实任务中验证了模型在长时序任务 和未见目标上的优越性能。

四、研究方法与原理

ReconVLA 的核心思路是:通过让模型重建任务相关的图像区域,引导其自动聚焦于关键目标,从而提升动作执行的精确性。

模型包含动作生成 与视觉重构 两个部分。输入为多视角图像和语言指令。视觉编码器提取图像特征,与大语言模型(LLM)交互后,一方面输出动作指令,另一方面输出重构 token(reconstructive tokens) ,用于引导一个扩散去噪过程(denoising process),重建目标区域的图像 token。

具体地,重构目标为**凝视区域 **,其 token 表示为 ,其中 是视觉 tokenizer(采用 VAE)。扩散过程从带噪声的 token 出发,在重构 token 的条件下,通过去噪器 预测噪声并恢复 。重构损失函数为:

整体训练目标为动作预测损失与视觉重构损失的加权和:

其中 是由大语言模型基于视觉 tokens 生成的重构 tokens, 是扩散时间步, 是加入的噪声。这一设计迫使模型在生成动作的同时,必须学习对目标区域的精细视觉表征,从而实现隐式的视觉注意力聚焦。

五、实验设计与结果分析

模拟环境与数据集

实验使用 CALVIN 基准 ,包含 34 个任务和 4 种环境,评估模型在长时序任务 中的表现。指标为子任务成功率 与平均完成长度。

范式对比实验

比较三种视觉 grounding 范式:

  • 显式 grounding(EG):使用 YOLOv11 检测并裁剪目标区域作为额外输入。

  • 链式思维 grounding(CG):模型依次输出边界框坐标与动作。

  • 隐式 grounding(IG,即 ReconVLA):不显式输出坐标,而是通过重建目标区域隐式学习注意力。

结果显示,IG 在各项任务中均取得最高成功率,尤其在 5/5 任务中达到 **64.1%**,显著优于 EG(50.2%)和 CG(0%)。

注意力可视化分析

可视化显示,基线模型的注意力分散,而 ReconVLA 能精准聚焦于目标物体,如"将西瓜放入黄碗"任务中,注意力集中在西瓜上。

消融实验

消融实验验证了以下设计:

  • 预训练:显著提升模型在未见环境中的泛化能力。

  • 重建凝视区域:比重建整图更有效,引导模型关注目标。

  • 重构模块本身:即使重建整图也能提升性能,但不如凝视区域精准。

与先进方法对比

在 ABC→D 和 ABCD→D 任务中,ReconVLA 在多项指标上超越生成式方法(如 GR-1、3D-VLA)和大规模 VLA 模型(如 OpenVLA、UniVLA),尤其在长时序任务中表现突出。

真实世界实验

在四个真实任务(如叠碗、翻杯等)中,ReconVLA 在未见目标上仍保持高成功率,显著优于 OpenVLA 和 PD-VLA。

六、论文结论与评价

总结

ReconVLA 通过隐式视觉 grounding 机制,成功引导模型聚焦于任务关键区域,提升了机器人操作的精确性与泛化能力。在模拟与真实任务中均表现出色,尤其在长时序和未见目标任务中优势明显。

评价

该方法无需依赖外部检测模型 ,简化了系统结构,且通过视觉重构任务 增强了模型对细节的感知能力。然而,该方法依赖于高质量凝视区域标注 ,且扩散去噪过程计算开销较大,可能限制其在实时系统中的部署。未来可探索更轻量的重构机制,或结合自监督方式减少对标注数据的依赖。

点击原文链接,查看AAAI 2026论文合集

相关推荐
Rock Chin6972 小时前
把 n8n 接进 Slack:在对话里 @机器人 触发自动化工作流
运维·机器人·自动化
物联网软硬件开发-轨物科技3 小时前
【技术白皮书】光伏清检一体化机器人系统解决方案技术白皮书
大数据·运维·网络·人工智能·机器人
真的想上岸啊5 小时前
笔记 1:思小伴 搭载 EEG 脑电专注力监测的多功能儿童陪伴桌宠
机器人
是Yu欸5 小时前
机器人握手前如何找准你的手:ECCV 2026 TAIHRI 论文解读
机器人
深蓝学院6 小时前
TRO顶刊|隐蔽攻击下的多机器人安全学习控制:小规模学习,大规模泛化
机器人·具身智能
Rocky Ding*6 小时前
深入解析GPT-6 Astra提示词工程:从Skills、AGENTS.md到可验证的Agent交付
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·提示词工程
xhyu616 小时前
【学习笔记】图像质量评估方法 (5.生成图像是否符合用户要求)
笔记·学习·计算机视觉
niyongsheng7 小时前
多智能体连续时间内路径规划:AA-SIPP(m) 的 Rust 实现与算法
算法·rust·机器人
BSD_CGQ8 小时前
人形机器人触觉放量,柔性压力传感器采购该核验什么?
人工智能·机器人·压力传感器·源头工厂·柔性薄膜压力传感器
深圳市快瞳科技有限公司9 小时前
人车准入审核的工程实现:证件OCR、联网查验与业务决策
计算机视觉·ocr·vin码查询·车辆证件ocr·车辆信息查验·汽车ocr