【论文自动阅读】GREAT MARCH 100:100项细节导向任务用于评估具身AI agent

快速了解部分

基础信息(英文):

1.题目: THE GREAT MARCH 100:100 DETAIL-ORIENTED TASKS FOR EVALUATING EMBODIED AI AGENTS

2.时间: 2026.01

3.机构: ISJTU, SII, RHOS.ai, Robbyant, Antgroup

4.3个英文关键词: Robot Learning, Task Design, Evaluation Benchmark

1句话通俗总结本文干了什么事情

本文提出了一个名为"Great March 100 (GM-100)"的机器人学习评测基准,包含100个精心设计的、涵盖长尾行为的任务,旨在解决现有评测任务过于单一、无法全面评估机器人智能水平的问题。

研究痛点:现有研究不足 / 要解决的具体问题

现有的机器人任务数据集和评测标准往往只关注"拿起并握住"等常见高频任务,缺乏对复杂、罕见的"长尾任务"的覆盖,导致模型存在严重偏差,且难以在不同方法间进行公平、全面的性能区分。

核心方法:关键技术、模型或研究设计(简要)

利用大语言模型(Qwen3)结合人类物体交互原语(HOI)和物体可供性(Affordance)自动生成候选任务,再通过LLM与人类专家混合筛选,最终构建了包含100个高挑战性任务的基准数据集,并在真实机器人平台上收集了1.3万条轨迹数据进行验证。

深入了解部分

相比前人创新在哪里

  1. 视角转变:不依赖人类主观的实用性判断,而是基于物理常识和低级操作知识(How-level affordance)来生成任务。
  2. 长尾覆盖:专门针对现有数据集中缺失的复杂、罕见行为进行系统性设计,增加了任务的多样性和挑战性。
  3. 社区驱动:不追求绝对中心化的物理测试环境,而是建立开源平台,鼓励社区上传结果和视频证据,通过集体监督进行长期评估。

解决方法/算法的通俗解释

本文并不是提出一个新算法,而是建立了一个"机器人奥运会"的比赛项目库。它利用AI(Qwen3)学习人类如何与物体互动的原理,自动脑暴出各种各样的任务(比如"把垃圾扔进垃圾桶"),然后通过AI和专家筛选出最难、最能考验机器人能力的100个任务作为标准考题。

解决方法的具体做法

  1. 数据收集与分析:分析现有任务(如Agibot, Open X-Embodiment),去除重复项,发现任务多集中在"抓取"等常见动词。
  2. 任务生成:利用Qwen3模型,输入人类交互原语(如"切"、"倒"),让模型列举相关物体并生成具体任务描述。
  3. 筛选与优化:先用LLM自动评分机器人的可执行性,再由5位人类专家进行最终筛选,确保任务在现有硬件下可行且适合遥操作收集数据。
  4. 数据集构建:在Agilex Cobot Magic和Dobot Xtrainer两个平台上收集了超过1.3万条轨迹数据。

基于前人的哪些方法

基于人类物体交互研究(如HAKE、PaStaNet、OCL)中的交互原语和物体可供性概念,以及前人的任务列表(如Agibot和 π 0 .5 \pi_0.5 π0.5的评测任务)作为基础进行扩展和语义分析。

实验设置、数据、评估方式、结论

  • 实验设置:使用Agilex Cobot Magic(双臂移动平台)和Dobot Xtrainer(双臂固定平台)。
  • 数据:收集了13,000多条遥操作轨迹,每个任务包含100条训练轨迹和30条固定测试轨迹。
  • 评估方式 :
    • 成功率 (SR):任务完全完成的比例。
    • 部分成功率 (PSR):子任务完成的比例(针对复杂任务)。
    • 动作预测误差:预测动作与真实动作的均方误差(MSE)。
  • 结论 :GM-100任务具有可行性但极具挑战性,能有效区分不同VLA模型(如Diffusion Policy, π 0 \pi_0 π0, π 0 .5 \pi_0.5 π0.5)的性能。实验显示 π 0 .5 \pi_0.5 π0.5在动作预测精度和物理任务成功率上均表现最佳。

提到的同类工作

Open X-Embodiment, Agibot, BridgeData V2, RH20T, DROID, RoboCOIN, RoboMIND, RT-2, OpenVLA, GR00T。

和本文相关性最高的3个文献

  1. HAKE (Yong-Lu Li et al.): 提供了人类活动知识引擎,是本文任务生成中交互原语的重要来源。
  2. Agibot (Qingwen Bu et al.): 作为现有的大规模操作数据集,是本文进行任务设计对比和分析的基础之一。
  3. π 0 .5 \pi_0.5 π0.5 (Physical Intelligence et al.): 本文将其作为基线模型之一,同时也是任务设计参考的来源之一。
相关推荐
敢敢のwings8 小时前
TACDYN-WAM 深度解读:机器人如何预测接触变化,并据此生成动作
人工智能·机器学习·机器人
沉默王二8 小时前
阿里版Codex,再次惊艳到我了。
人工智能·openai·agent
正在走向自律8 小时前
【1/5】人工智能训练师 一级/高级技师 考证学习方向:从“可评审的交付”到“可定义的标准与可传承的体系”
人工智能·人工智能训练师·一级/特级·ai技术负责人·数据体系负责人·行业解决方案架构·技术评审与标准制定
时文鲜读8 小时前
算力基建提速,数据中心安全建设与工业可靠性如何同步升级?
大数据·人工智能·安全
坐吃山猪8 小时前
果蝇AI07-Mac部署踩坑
人工智能·深度学习·机器学习·果蝇ai
挖掘狂人8 小时前
AI PC 分水岭:2026 过半 PC 搭载本地 AI,端云协同才是核心
人工智能·程序员·ai编程
吴名氏.8 小时前
Java转AI Agent教程(第九周)错误矩阵
java·人工智能·矩阵·ai agent
lisw058 小时前
作为人类代理的大语言模型及其角色分类!
人工智能·学习·语言模型
高洁018 小时前
自然语言处理的技术演进与核心任务
人工智能·python·深度学习·机器学习·迁移学习
Jsundoku8 小时前
第十四章 深度学习 -- 基于模型的方法
人工智能·强化学习