预训练去想象,微调去行动:世界-动作模型 (WAM) 的崛起
原文 :Pretrained to Imagine, Fine-Tuned to Act: The Rise of World-Action Models ,NVIDIA Technical Blog,2026 年 6 月 15 日,作者 Moritz Reuss(NVIDIA Seattle Robotics Lab)。
中文整理说明:本文由上述英文技术博客翻译、整合并补充延伸阅读而成,保留原文全部插图、表格与论文超链接;为中文读者增补了术语解释、编者按与统一参考文献。文中所涉"假设/猜测"等措辞忠实于原文的审慎语气,相关数字(如算力估计、RoboArena 分数)均来自原文及所引论文,未作改写。

封面:Pretrained to Imagine, Fine-Tuned to Act ------ 预训练时想象世界,微调后执行动作。
编者按
过去一年,机器人基础模型领域的关键词正在悄悄换牌。2025 年 10 月,作者 Moritz Reuss 在 State of VLA 一文中还把"世界-动作模型"(World-Action Model,WAM)归为 VLA 研究里一个"小众子方向";而到 2026 年中,"WAM"几乎每天都会出现在他的 Scholar Inbox 里。WAM 是一类介于世界模型与视觉运动策略之间的机器人基础模型------它复用预训练的视频/世界模型骨干作为先验,同时预测未来世界状态与机器人动作,把"想象未来"从外部规划器内化为策略骨干的一部分。它的兴起并非偶然:基于 VLM 的 VLA 虽吃下了互联网级图文红利,却撞上了"语言→动作的 grounding 墙";而开放可用的 DiT 视频骨干与 action chunk 动作头终于追上了早在 2023 年 UniPi 就提出的想法,让 WAM 从"不可复现的老配方"变成"可工程化的新范式"。
本文要回答的核心问题是:这究竟是一场真实的范式转移,还是一次短周期热潮? 作者的核心判断是------WAM 将成为机器人基础模型的第二大配方,与基于 VLM 的 VLA 并列;而最终赢家很可能是 VLA + WAM 的混合体。围绕这一判断,本文依次展开两大表征路线之争(第一章)、WAM 的动机与三大假设(第二章)、现代 WAM 的三轴设计空间(第三章)、算力与推理速度的工程代价(第四章)、现代 VLA 基线为何依然重要(第五章)、两条路是否终将合一(第六章),并以作者的三点结论与第四条路线收束(第七章)。文末附统一的延伸阅读与参考文献,按主题分组串联经典论文与 WAM 的关系。
第一章 两大表征路线:VLM-VLA 与视频-WAM 的路线之争
当前通用操作策略(generalist manipulation policy)领域正在同时下两笔"表征赌注":一笔押在以 VLM(vision-language model,视觉-语言模型)为骨干的 VLA(vision-language-action,视觉-语言-动作)路线上,以 Pi-0/Pi-0.5 配方为代表;另一笔押在以预训练视频/世界模型为骨干的 WAM 路线上。骨干的选择并非孤立决策,它会牵动整条训练-评估流水线------训练配方、数据配比、推理优化乃至算力预算都随之改变。正因如此,多数团队受限于算力只能先押注其中一条,而本文要回答的核心问题正是:这究竟是一场真实的范式转移,还是一次短周期热潮?赢家是纯 VLA、纯 WAM,还是两者的混合体?

图 1:基于 VLM 的 VLA 与基于视频骨干的 WAM 两条路线对比。左边以语言-视觉预训练为起点,右边以视频/世界模型预训练为起点,两者在动作学习阶段分道扬镳。
1.1 两条路线的起点:从哪里来,决定了能往哪里去
作者指出,当前研究界与工业界存在两条主要的"表征赌注"(representation bet),二者的分歧从预训练阶段就已经埋下。
第一条路线:VLM 骨干的 VLA。 这条路线源自 Pi-0 与随后 Pi-0.5 确立的传统配方------以预训练好的 VLM 作为策略学习的起点,把互联网级的视觉-文本知识迁移到动作生成。这一 VLM-backbone 配方在 NVIDIA GR00T、小米机器人(Xiaomi Robotics)、Being-H0.5 等团队的公开工作中反复出现。其核心假设是:VLM 已经在海量视觉-文本数据上学到了丰富的语义与视觉理解,只要再做一次动作适配(action adaptation),就能把"看得懂"转化为"做得到"。代表工作包括 Pi-0、Pi-0.5、GR00T N1、Xiaomi-robotics-0 与 Being-H0.5。
第二条路线:视频骨干的 WAM。 这是一条更晚大规模出现的范式------以预训练视频/世界模型骨干作为通向通用操作的另一条路径。公开案例已经横跨工业界与学术界:NVIDIA 的 DreamZero 与 Cosmos Policy、蚂蚁集团的 LingBot-VA、Rhoda AI 的 DVA、Sereact 的 Cortex 2.0、Mimic Robotics 的 mimic-video,以及来自高校与开源社区的 Video Prediction Policy(VPP)、Unified Video Action Model(UVA)和 Fast-WAM。其核心假设与 VLA 路线恰好互补:与其让模型从语言"猜"出动作,不如先让模型"想象"出场景会如何变化,再从想象中推断动作------视频骨干本身已经编码了"语言 → 视觉变化"以及"物体如何被操作"的大量先验。代表工作包括 DreamZero、Cosmos Policy、LingBot-VA、mimic-video、VPP 与 Fast-WAM。
需要说明的是,本文所说的"VLA"特指 VLM-backbone 路线,"WAM"特指视频-backbone 路线。两者并非完全互斥------后文会看到,不少最新工作已经在两者之间互相借用构件。
1.2 骨干选择为何是"全流水线"决策
作者强调,骨干的选择不只影响模型第一层从哪里初始化,它会沿训练与评估流水线一路传导,影响至少四个层面:
- 训练配方(training recipe)。 VLA 路线已基本收敛到一套共享配方:VLM 协同训练(co-training)+ 梯度隔离的流匹配动作专家 + 广谱数据混合。而 WAM 路线目前仍在多种配方之间分裂,尚未形成共识。骨干不同,意味着可用的训练目标、损失函数组合、冻结/可训练模块的划分都不同。
- 数据配比(data mixture)。 VLA 路线天然倾向于"图像 + 文本 + 机器人轨迹"的混合,因为 VLM 的预训练分布就是这样;WAM 路线则天然倾向于"视频 + 机器人轨迹"的混合,因为视频骨干的预训练分布是时序连续的视觉变化。数据来源、采集成本(如是否需要 UMI 式手持夹爪采集带动作标签的人类视频)、以及视频数据质量(caption、latent 表示、生成式预训练)都会进入策略配方------DreamZero 甚至论证"更强的视频生成直接转化为更强的策略性能",使 WAM 对视频数据质量更为饥渴。
- 推理优化(inference optimization)。 VLA 通常编码一至数张图像加文本,再预测一段短动作 token 序列;WAM 则要预测一整段视频 latent 加动作 token,视频 token 序列往往比 VLA 长约 10 倍。这直接决定了推理延迟:典型的 WAM 推理(联合预测或带完整视频生成的逆动力学)每动作块(action chunk)需 590--800ms,而 Pi-0.5 约为 190ms------3 到 4 倍的差距,对实时控制至关重要。是否能在推理时跳过视频生成(如 Fast-WAM 的做法)成为 WAM 能否落地的一个关键工程开关。
- 算力预算与工程门槛。 视频骨干要处理远多于图像条件动作策略的 token,完整视频预训练极其昂贵。作者给出粗略下界估计:DreamZero 式的动作微调约 9 ZFLOPs,而要把 Wan-14B 级视频预训练与 WAM 阶段合算,估计约 51 ZFLOPs,相比之下高效的 VLA Foundry 配方仅约 6.9 ZFLOPs------存在约 7.4 倍的差距。再加上 10B+ 参数、8k-token 序列对显存与多节点互联的要求,WAM 的工程门槛远高于 VLA。
正因为这四个层面相互牵连,作者判断:鉴于大规模运行这些模型的成本,多数团队很可能必须先优先押注一个方向(VLA 或 WAM),而难以两条路线并行推进。 这也解释了为什么"两大路线之争"在当下如此鲜明------它不是研究者刻意站队,而是算力现实逼迫出的二选一。
1.3 路线之争背后的真正问题
值得追问的是:为什么偏偏是现在出现这条视频骨干路线?作者在引言中给出了一段自我反思------他在 2025 年 10 月的 "State of VLA" 一文中还把 WAM 视为 VLA 研究中的一个小分支,远不如 VLM 初始化的 VLA 流行;但短短数月后,WAM 关键词几乎每天都会出现在他的 Scholar Inbox 里。更可能的原因是:VLM-based VLA 撞上了一堵"语言到动作的接地墙"(language-to-action grounding wall)。
VLM 预训练带来了海量视觉-文本知识,但把语言和像素映射成行为这件事,仍然只能从机器人数据中学到------这正是 VLA 的痛点。WAM 提供了不同的起点:预训练视频/世界模型骨干已经建模了"在语言条件下场景动态如何变化",如果这部分先验能迁移到行为生成,那么剩余的"视频到动作"gap,可能比直接学"语言到动作"接地要小得多。换句话说,两条路线争论的不是一个技术细节,而是机器人策略的"中间表征"到底应该用语言还是用视频这个根本问题。
不过作者也保持了研究者应有的审慎语气:他把关于 WAM 优越性的若干论断称为"假设(hypotheses)而非结论"。这些假设有定性直觉、仿真证据和少量真机信号支撑,但尚缺乏干净的匹配对照实验。既然 WAM 如此吸引人,它具体有哪些动机与假设?下一章详述。
第二章 为什么需要世界-动作模型?Grounding Gap 与三大假设
本章回答一个前置问题:当基于 VLM 的 VLA 已经吃了互联网级图文红利时,为什么还要另起炉灶、用视频骨干来做机器人策略?答案分三层。第一,VLA 撞上了一堵"语言到动作的 grounding 墙"------VLM 预训练的语义知识与具身操作之间存在巨大领域鸿沟,动作学习目标一旦偏离原 VLM 目标,就会出现灾难性遗忘。第二,WAM 提供了一个不同的起点:预训练视频骨干已经隐式学到了"语言如何对应到世界中的视觉变化",把这部分先验迁移到行为生成,剩余要学的 video-to-action gap 可能比直接学 language-to-action 更小。第三,作者把支撑 WAM 的三条理由明确标注为假设而非结论,并用一个 Veo 3.1 烤面包机的零样本实验直观说明:前沿视频模型确实"懂"一些机器人操作的物理先验,但远未可靠到能直接控制------这正是 WAM 微调要把零样本想象变成可靠控制的用武之地。
2.1 先把术语理清:视觉运动策略、世界模型与 WAM
在深入 grounding gap 之前,有必要先把三个容易混淆的术语摆在一张图里。这是理解整篇博客的基础。

术语图:视觉运动策略(visuomotor policy)------语言指令 + 当前观测输入,输出机器人动作序列。
视觉运动策略(visuomotor policy) 是最经典的机器人策略形态:输入语言指令与当前观测(图像/本体感知),输出一段可执行的动作序列(action chunk,动作块)。它的关注点完全是"我现在该怎么做",不显式预测未来世界会长什么样。Pi-0、Pi-0.5 等现代 VLA 在结构上就属于这一类------它们在 VLM 骨干上接一个流匹配(flow matching)动作专家,把语义理解直接映射成连续动作。

术语图:世界模型(world model)------当前世界状态 + 动作抽象输入,输出未来图像或潜在状态。
世界模型(world model) 走的是另一条路:输入当前世界状态加上一个"动作抽象"(可以是真实动作,也可以是从视频学到的潜在动作 latent action),输出未来的图像或潜在状态。它的核心任务是"如果我这么做,世界会变成什么样",即预测状态的演化,而不是直接发出控制指令。Cosmos、Wan、Veo 这类视频生成模型,以及 Genie、JEPA-WM 这类潜在世界模型,都可以放进这个范畴。

图 2:机器人中的世界模型谱系。动作条件世界模型(DreamDojo、Genie、JEPA-WM)从学到的动作抽象预测未来状态;视频世界模型(Cosmos-3、WAN、Veo、LTX-Video)从语言和参考帧预测未来视频;WAM(如 DreamZero、LingBot-VA、UniPi、mimic-Video)位于三者交集:在发出动作的机器人策略内部,复用一个视频或世界模型骨干。
WAM(World-Action Model,世界-动作模型) 恰好坐在前两者的交集上:它复用一个预训练的视频/世界模型骨干作为先验,同时预测未来的世界状态和机器人动作。换句话说,WAM 不是一个纯粹的世界模型(它要输出动作、要能闭环控制),也不是一个纯粹的视觉运动策略(它内部带着一个会"想象未来"的视频骨干)。它是"先想象世界会怎么变,再决定怎么动"这一思路的工程化落地。它的赌注在于:如果"语言→视觉变化"的映射已经在视频预训练里学到了,那么剩下的"视频→动作"这一段缝隙,可能比 VLA 那条"语言→动作"的直接跳跃要窄得多。
2.2 The Grounding Gap:VLM 预训练与具身操作之间的领域鸿沟
要理解 WAM 为什么有吸引力,先要理解"经典" VLA(即基于 VLM 骨干的 VLA)的核心痛点。第一代 VLA 的动机很直接:把 VLM 在互联网级图文数据上学到的知识搬过来用机器人。VLM 在海量 vision-text 数据上预训练,对大量视觉任务都有不错的零样本(zero-shot)表现,VLA 的配方就是把这些预训练表征适配到动作生成。
但问题在于:VLM 预训练与具身操作(embodied manipulation)之间存在巨大的领域鸿沟(domain gap)。多篇 VLA 论文要么观察到预训练 VLM 能力的退化(degradation),要么干脆围绕这个问题做架构设计------尤其是当动作学习目标与原 VLM 目标差异很大的时候,退化尤为明显。
灾难性遗忘:VLM→VLA 转换中的知识流失
VLM2VLA(Actions as Language: Fine-Tuning VLMs into VLAs Without Catastrophic Forgetting) 把这个问题说得最直白:它把 VLM 到 VLA 的转换过程直接定义为一种灾难性遗忘------在用机器人动作数据微调 VLM 时,VLM 原本掌握的语言与视觉理解能力会被持续侵蚀。其核心创新是用"把动作当作一种新语言"的离散动作 token 化方式,让 VLM 尽量留在自己擅长的离散 next-token 预测空间里。这从 VLA 一侧诊断出了 grounding 墙的病根(连续动作目标与离散语言目标的优化张力),而 WAM 则是从另一侧------换一个本身就是为"视觉变化"而生的骨干------来绕开这个张力。
Knowledge Insulation: Train Fast, Run Fast, Generalize Better 报告了类似的现象,并把这一担忧上升为架构层面的设计:它把流匹配动作专家(flow-matching action expert)的梯度与 VLM 骨干隔离(isolate)开来,从而保护骨干中预训练的语言/视觉知识不被动作目标污染,在训练收敛速度、任务表现和语言跟随(language following)上都有提升。当 DreamZero、LingBot-VA、Being-H0.7 这类工作把视频世界模型骨干改造成 WAM 并附加动作专家时,同样面临"动作专家梯度会不会破坏视频骨干先验"的问题,Knowledge Insulation 的梯度隔离技巧是直接可迁移的训练稳定性支撑。
作者指出,近期出现了 VLM 协同训练(VLM co-training)与离散动作分词器(discrete action tokenizers,如 FAST/BEAST)等缓解手段,但核心挑战依然存在:从有限的机器人数据出发,把语言 grounding 到物理动作。也就是说,这些技巧减轻了遗忘,却没有填平"语言→行为"这道鸿沟本身。
一个自然的问题
这就引出了整篇博客的关键转折。作者写道:
这自然引出一个问题:如果我们从一个已经表征了语言如何映射到世界中视觉变化的骨干出发,会怎样?
VLM 学的是"语言↔(静态)图像"的对应;它并不知道一个指令会让场景怎么动。而视频骨干学的是"语言→场景如何随时间变化"。如果这部分先验能迁移到行为生成,那么剩下的 video-to-action gap,可能比从头学 language-to-action 的 grounding 要小得多。这正是 WAM 的出发点。
2.3 WAM 作为策略表征的三大假设
WAM 的核心想法简单到一句话:与其用 VLM 骨干来跳启模仿学习,不如用一个预训练的视频骨干 。当前的视频模型在大规模视频语料上训练,学到了视觉场景如何随时间演化的时空表征。关键是,这些视频模型通常是文本条件(text-conditioned)的------它们被训练成根据精确的语言描述来生成视频,有时给一帧参考帧(reference frame),有时只从文本生成。许多视频里本身就含有意图性(intentional)行为:手在抓取、工具在移动、物体被操作、场景因为某人或某物的动作而改变。这让视频骨干作为通用操作的模型先验非常有吸引力------在看到任何机器人动作之前,骨干就已经编码了语言、视觉变化与合理物体交互之间的有用联系。
但作者非常谨慎地强调:下面这三点应当被当作假设,而不是结论 。它们有定性直觉、仿真证据和少量早期真机信号支撑,但还没有干净的匹配对照实验(clean matched comparisons)来证实。这种不确定性的语气在阅读时需要保留------它们是 WAM 路线目前最可信的"赌注",但远非定论。
假设一:预测未来世界变化与生成所需动作相关。 这条假设背后的直觉来自逆动力学(inverse dynamics):如果已知期望的结果(desired outcome),反推产生它的动作,通常比直接从指令和当前观测预测动作更简单。相关研究(如 When does predictive inverse dynamics outperform behavior cloning?)表明,逆动力学预测往往比纯动作生成(behavior cloning)更容易学。Pi-0.7: a Steerable Model with Emergent Capabilities 的视觉子目标(visual subgoal)实验指向同一方向:当策略被给定期望的未来图像(goal image)时,动作预测变得更直接,训练也收敛得更快。(注:Pi-0.7 目前仅见于博客叙述,其具体技术机制未在 arXiv 公开,这里依据博客叙述。)这等于在 VLA 内部把动作预测部分地变成了一个逆动力学问题------WAM 把这个思路推到极致:视频骨干负责"想象未来",动作部分只需做逆动力学。
假设二:视频预训练提供语言与物理变化之间的 grounding。 视频模型学会了把文本描述映射到视觉结果(visual outcomes)。如果这种映射能迁移到机器人学,就可以减少必须从机器人演示中单独学到的 grounding 量。VLM 的 grounding 停在"语言↔静态图像",而视频骨干的 grounding 延伸到了"语言↔场景的物理变化"------语言到视觉变化的这一段,视频模型在预训练阶段已经替你学了一大半。
假设三:视频数据正则化机器人策略。 机器人数据集相对于网页级视频而言是非常小的。无论通过"先用视频预训练"还是"用视频与机器人数据协同训练(co-training)",更广的视觉先验都能减轻过拟合。当然,作者也指出这个收益取决于数据集、目标和架构 ------不是无条件的。DreamZero 与 Fast-WAM 都表明:在机器人微调阶段,WAM 在动作学习与视频预测目标协同训练时表现最好。这两条证据共同支持假设三:视频预测目标不只是个"附加任务",而是动作学习的有效正则化器。
把三条假设合起来看,WAM 的逻辑链是清晰的:视频骨干自带"语言→视觉变化"的 grounding(假设二),预测视觉变化又能让动作生成退化为更简单的逆动力学(假设一),再加上视频预测目标对有限机器人数据的正则化(假设三)------三股力量合流,理论上应当比 VLA 直接硬学"语言→动作"更省数据、更易泛化。但作者反复提醒:这是假设,需要干净的对照实验来验证。
2.4 一个快速实验:前沿视频模型对机器人操作"懂"多少?
三大假设毕竟还是论断。作者用一个非常轻量的实验来给"视频骨干到底带了多少机器人操作先验"做一个定性体检(qualitative check)。
实验设置很简单:用 Google 的前沿视频生成模型 Veo 3.1 ,给它一帧 来自 RoboArena 烤面包机任务(DROID 设置)原始 rollout 的上下文帧(context frame),然后让 Veo 生成视频:先把烤面包机的拨杆按下去(参考任务,与原 DROID 演示一致),再去拿左边的一个橘子(组合扩展,超出原演示范围)。作者特别说明:这个视频极不可能出现在 Veo 的预训练数据里,但他们无法直接核实训练集------所以请把它当作对先验的定性检查,而不是对训练集成员资格的受控探测。一次尝试(one-shot),不做任何提示词优化。提示词原文是:
"Given this initial frame, generate a video of the robot arm pushing the toaster lever. After finishing that task, the robot should pick up the orange on the left side of the toaster and stop after it has picked it up."
(给定这初始帧,生成一段机器人手臂按下烤面包机拨杆的视频。完成该任务后,机器人应拿起烤面包机左侧的橘子,并在拿起后停下。)

图 3:DROID 设置下 RoboArena 烤面包机任务的上下文帧(context frame),作为 Veo 的唯一输入。

图 4:真值(ground-truth)rollout------机器人按下烤面包机拨杆。这是"正确答案"长什么样。

图 5:Veo 3.1 对参考任务(按下拨杆)生成的 rollout。

图 6:Veo 3.1 对组合扩展(按拨杆后拿橘子)生成的 rollout。

图 7:完整组合扩展序列(按拨杆后拿橘子)的动画 rollout。
结果:出奇地好,但局限同样明显
对于一个并没有被显式训练成机器人策略的模型,这个生成的 rollout 出奇地好(surprisingly good):
- 动作流畅:生成的运动平滑自然;
- 背景稳定:背景保持稳定一致,没有闪烁或漂移;
- 轨迹合理:机器人朝两个目标物体都走出了一条合理的轨迹;
- 序列正确:甚至任务顺序也被尊重------先完成拨杆,再移向橘子。这一点尤其值得注意,因为它涉及对"完成一个子任务再开始下一个"的时序理解。
但局限同样肉眼可见:
- 拨杆没按到底:模型没有把烤面包机拨杆完全按下去,某些时刻甚至看起来在做相反的动作(往上拉);
- 夹爪变形 :原 DROID 设置中的 pinch gripper(夹爪)变成了一个四指手(four-fingered hand);
- 本体被重新想象 :固定底座(fixed-base)的机器人手臂,在上下文帧之后几乎瞬间被重新想象成了一个自由度更少的不同机器人。
作者把这些瑕疵归因于一个一致的判断:模型是在用宽泛的视觉先验(broad visual priors),而不是在忠实建模具体硬件。它"大概知道"机器人抓物体应该是什么样,但不知道这只特定的夹爪、这台特定的机械臂长什么样、能做什么。作者用一句话收束这个实验:
WAM 微调(fine-tuning)正是试图把那种零样本的想象(zero-shot imagination)变成可靠控制(reliable control)。
Veo 实验里那些"流畅但拨杆没按到底、夹爪变成手、本体被改写"的失败模式,恰恰是零样本视频先验的边界。WAM 的赌注是:用机器人数据微调这个视频骨干,让它既保留"语言→视觉变化"的 grounding 先验,又学会忠于具体硬件、把动作做到底------把想象收敛成控制。理解了 WAM 的动机,下一章我们走进它内部,看看现代 WAM 到底长什么样、彼此有何不同。
第三章 理解现代 WAM:核心范式、动作整合与架构
如果说前一章回答了"为什么需要 WAM",本章则回答"现代 WAM 到底长什么样、彼此有何不同"。作者把当前 WAM 研究沿三条彼此不完全独立的轴展开:范式(paradigm,模型预测什么) 、动作整合(action integration,动作如何进入模型) 、架构(architecture,组件如何组装)。结论是:与基于 VLM 的 VLA 已收敛到一套近乎通用的配方不同,WAM 仍处于多路线并行的探索期------没有谁能宣称"我这就是答案",而这恰恰是当下这个领域最迷人的地方。
3.1 一张图看清 WAM 的设计空间
作者用一个三维设计空间把现代 WAM 的设计选择可视化出来。这张图是本章的"地图",值得先记住。

图 8:WAM 设计空间一览。左:三种范式(逆动力学先生成视频再推动作;联合预测同时输出视频与动作;表征-only 推理时不生成视频)。中:三种动作整合方式(独立动作 token;action-as-image 把动作编码为图像形目标;潜在动作/计划)。右:三种架构(单体 Transformer;模态专属专家经共享注意力耦合的 MoT;视频模块在前、动作模块在后的分层管线)。
三条轴分别是:
- Paradigm(范式):模型预测什么、预测出的视频如何用于产生动作?------逆动力学(inverse dynamics)、联合预测(joint prediction)、表征-only(representation-only)。
- Action integration(动作整合):动作到底怎么进入模型?------默认动作 token(default action tokens)、action-as-image(动作即图像)、潜在动作/计划(latent actions/plans)。
- Architecture(架构):组件如何组装?------Mixture-of-Transformers(MoT,混合专家 Transformer)、单体(monolithic)、分层(hierarchical)。
作者明确提醒:这三条轴并不完全独立,有些 WAM 难以干净地归入某一格。他更愿意把这套分类当成"一份实用的阅读地图,而非完美分类法"。对每条轴,作者的写法是"先给一篇较老的论文讲清思想源头,再给一篇同思路的现代放大版"。
3.2 范式轴:模型预测什么
第一条轴是策略的 formulation(表述形式):模型预测什么、以及预测出的视频如何被用来产生动作。在现代 WAM 中,作者观察到三个方向,它们在**推理边界(inference boundary)**上彼此区分------也就是说,跑起来之后模型到底吐出什么、再怎么变成动作。
3.2.1 逆动力学:先想象未来,再反推动作

图 9:逆动力学 WAM 抽象图。视频模型先从语言指令与当前观测生成未来帧或潜在状态;一个逆动力学头(inverse dynamics head)再把预测出的视觉转移映射成动作序列。不同系统在用哪种"未来"上有所不同:完整 RGB 未来(LingBot-VA、DVA)、潜在视频特征(VPP、mimic-video),或仅中间特征。
逆动力学(inverse dynamics:已知"从哪到哪",反推"做了什么动作")是最好理解的 WAM 配方:先想象未来,再从视频中预测最可能的动作。这个设计的关键巧妙之处在于,它把最难的"语言接地(language grounding)"问题挪到了视频阶段------把指令翻译成"合理的视觉变化"。赌注在于:视频预训练已经学到了"语言→视觉变化"这层映射里有用的部分,所以动作头不必从机器人演示里从头学一切,而可以专注解决逆动力学问题本身。这一点也呼应了第二章的核心假设之一:预测未来世界变化与生成所需动作是相关的,且逆动力学预测往往比纯动作生成更容易。
先驱:UniPi(2023)。

图 10:UniPi 概览。一个文本条件的视频生成器从当前帧与语言指令产出未来图像序列;一个独立的逆动力学模块再从相邻帧中提取动作。图源 Du et al., 2023。
UniPi(Du et al., NeurIPS 2023)是这个方向的先驱论文。其核心创新在于首次把序列决策重新表述为"文本条件的视频生成"问题:先用预训练视频扩散模型合成描绘计划动作的未来帧,再从视频中提取控制动作,把不同状态/动作空间统一到了图像空间。用作者的话说,UniPi "很可能是第一个明确意识到视频扩散对机器人潜力的现代实现"------把视频当高层规划,再用逆动力学恢复底层控制。事后看,大量近期 WAM 工作都像是它的"改进版"。
但 UniPi 也解释了为什么 WAM 花了好几年才进入主流:它用的是 Imagen Video 时代的 CNN-based 视频扩散栈,且视频生成器必须从头预训练。作者在脚注里做了粗估:那次预训练约 167 ZFLOPs(zetta-FLOPs,10²¹ 浮点运算),远超绝大多数机器人实验室的预算。所以这个配方虽然早就存在,但对普通实验室而言"基本不可复现"。
现代版:LingBot-VA(2026)。

图 11:LingBot-VA 架构:基于微调后的 Wan 2.2-5B 骨干产出视频 rollout,再做逆动力学动作预测。图源 Li et al., 2026。
LingBot-VA(Li et al., 2026,蚂蚁集团)是这个方向的现代放大版。它通过 16k 小时的跨本体(cross-embodiment)预训练,把 Wan 2.2-5B 改造成机器人视频-动作模型。与 UniPi 相比,关键差别不只是规模 :LingBot-VA 是因果的(causal) 、在长视觉历史上训练以支持闭环 rollout(closed-loop rollout),而非开环视频生成;同时它采用 Mixture-of-Transformers(MoT,混合专家 Transformer)架构------视频与动作各有专属权重专家,通过每层的共享自注意力耦合。其核心主张是:视频世界模型通过理解动作与视觉动态间的因果性来"想象近期未来",为机器人学习建立一个独立于视觉-语言预训练的新基础。
作者把两代逆动力学配方做了对照:
| 设计选择 | UniPi(2023) | LingBot-VA(2026) |
|---|---|---|
| 主思想 | 生成未来视频规划,再用逆动力学恢复动作 | 微调视频骨干做闭环机器人世界-动作 rollout |
| 骨干 | CNN 视频扩散(级联 U-Net),Imagen Video 时代从头训练 | Wan 2.2-5B 潜在 DiT(开放权重) |
| 潜在视频 VAE | 无;生成低分辨率 RGB 未来 | Wan 2.2-5B(16×16 空间、4× 时间) |
| 动作专家 | 独立的 CNN 动作头 | 经联合注意力耦合的 MoT 动作专家 |
| 动作-视频耦合 | 单向:先视频后动作 | 双向:视频条件化动作;生成的动作又条件化视频 |
| 机器人训练规模 | 小,仅演示数据 | 16k 小时跨本体机器人世界-动作预训练 |
表 1:逆动力学范式------原始配方 vs 现代放大版。
围绕同一主题还有几个变体。VPP(Video Prediction Policy,Hu et al., ICML 2025)、DiT4DiT(Ma et al., 2026,blog-only)和 mimic-video(Pai et al., 2025)并不一定需要最终的 RGB 视频------它们用视频模型的中间特征 作为动作解码器的预测性规划。VPP 的核心创新是在预训练视频扩散模型内部学习一个隐式逆动力学模型,以预测的未来表征为条件推断动作;mimic-video 则把流匹配动作解码器作为 IDM(inverse dynamics model,逆动力学模型),从视频空间动作计划的潜在表征生成低层动作,论证了相比传统 VLA 样本效率提升约 10 倍、收敛速度提升约 2 倍。而 DVA(Rhoda AI)和 LingBot-VA 则更直接地依赖生成或预测出的未来 rollout。作者坦承这组对比的难点:大多数论文同时换了视频骨干、用了不同量级的大规模预训练、调了不同超参、又在不同 setup 上评测,因此很难做干净的横评。
3.2.2 联合预测:视频与动作一起学

图 12:联合预测 WAM 抽象图。单一模型一次前向里同时输出动作序列与想象的未来状态(帧或潜在状态),没有独立的逆动力学模块。
第二种表述是联合预测(joint prediction) 。与"先生成未来视频、再解码动作"不同,模型把视频与动作一起预测 。这是 WAM 思想更"耦合"的版本:模型被迫在同一个预测步里同时学会"应该发生什么"和"怎么让它发生"。
早期代表:GR-1(2023/2024)。

图 13:GR-1 架构。阶段 1 在视频预测上预训练;阶段 2 在机器人数据上以未来帧与 action chunk(动作块)的联合目标微调。图源 Wu et al., 2023。
GR-1(Wu et al., ICLR 2024)是这个方向的早期奠基性论文。它在大规模视频上预训练,再在本地机器人数据集上以视频与动作的联合监督微调。具体做法:用 GPT-2 风格的 Transformer 策略,先在互联网视频预测(带 readout token)上预训练,再在机器人数据上以联合视频-动作目标微调。作者指出,更早的 R3M(Nair et al., CoRL 2022)和 Voltron(Karamcheti et al., RSS 2023)已经表明视频与语言能帮助机器人表征学习,但 GR-1 做了一个简单而重要的转变:它用视频学的是更好的策略表征,而不只是图像级的视觉表征。
GR-1 当时的 CALVIN 结果是有用的仿真证据。在更难的 ABC→D 划分上,此前的方法平均序列长度低于 1.0,而 GR-1 达到 3.06/5。

图 14:CALVIN ABC→D 结果,以平均完成子任务数(满分 5)表示。GR-1 为历史结果,Xiaomi-Robotics-0 为当前 SOTA VLA 参考。数值重绘自 Wu et al., 2023 与 Xiaomi Robotics, 2026。
作者特意保留这个结果,因为"它让泛化信号最容易读出来"。到 2026 年这个数字早已过时,但作者认为它在历史上仍然重要:它表明预测未来视觉状态能塑造更好的策略表征,而不只是更好的视觉编码器。这一点是联合预测范式立身的关键证据。
现代放大版:DreamZero(2026,NVIDIA)。
DreamZero(Ye et al., 2026,NVIDIA)是这个思想的现代放大版。它不再围绕一个视频预测头训练较小的 Transformer 式策略,而是从 Wan 2.1-I2V-14B-480P 出发,把视频扩散骨干改造成联合世界-动作模型。模型在一个单体 DiT 内同时去噪视频与动作 token------没有独立的逆动力学模块,动作只是同一个去噪过程里的另一种生成模态。其核心主张是:把 14B 自回归视频扩散模型改造成单体 WAM,通过模型与系统联合优化实现 7Hz 实时闭环控制,展现零样本泛化与跨本体迁移;博客称其仅用 10-20 分钟其他机器人或人类视频即可相对提升 42% 未见任务性能。

图 15:DreamZero 架构。单个单体 Transformer,从 14B Wan 视频扩散骨干初始化,联合去噪视频 token 与动作 token。图源 Ye et al., 2026。
DreamZero 报告的 RoboArena 分数是 WAM 一个重要的真机信号。多数论文仍聚焦 LIBERO 等仿真基准,而 RoboArena 是少数公开的、开放式的真机评测之一------这正是下面这张快照值得驻足的原因。

图 16:2026 年 4 月 RoboArena 排行榜快照。Pi-FAST(1592)领先 Pi-0(1475),而 Pi-0.5(1622)与 DreamZero(1750)更进一步。
在这张 2026 年 4 月快照里,DreamZero 达到 1750,相比 Pi-0.5 的 1622 是一个有意义的领先------这是 WAM 潜力的正向信号。作者谨慎地措辞:这不是 WAM 更优的证明,而是其潜力的正向信号。尤其值得注意的是,DreamZero 仅在 DROID 上训练,没有额外的大规模跨本体机器人训练阶段。
作者把两代联合预测配方做了对照:
| 设计选择 | GR-1(2023) | DreamZero(2026) |
|---|---|---|
| 主思想 | 在学动作的同时把未来帧预测作为辅助目标 | 在一个视频扩散骨干里联合去噪未来视频与机器人动作 |
| 骨干 | GPT-2 风格 Transformer 策略 + 视频预测 readout token | Wan 2.1-I2V-14B-480P 视频扩散模型,改造用于机器人控制 |
| 规模 | ~21M 策略参数;预训练的视觉/语言编码器单独保留 | 14B Wan 骨干,端到端动作微调 |
| 生成目标 | 未来视频与动作的 L2 重建 | 联合未来视频与动作生成的 flow/denoising(流匹配/去噪) |
| 潜在视频 VAE | 无;预训练 MAE/ViT 视觉特征 | 继承 Wan 的潜在视频 VAE |
| 语言条件 | CLIP | T5 族文本编码器(继承自 Wan) |
表 2:联合预测范式------早期策略级版本 vs 现代放大版。
作者的判断很清醒:GR-1 展示了联合视频-动作预测的策略级版本,DreamZero 把这个想法与现代视频基础模型 + flow matching 结合起来。核心的联合预测思想与 GR-1 相同,但 DreamZero 几乎改掉了周围所有其他东西,所以这远不是一次干净的对比。
联合预测这一波的周边工作。 GR-2(Cheang et al., 2024)是 GR-1 联合预测范式的规模化延伸:在 3800 万互联网视频片段、超 500 亿 token 上预训练捕获世界动力学,再用机器人轨迹对视频生成与动作预测联合微调,100+ 任务平均成功率 97.7%。Seer(Tian et al., ICLR 2025,预测式逆动力学是可扩展的机器人操作学习器)也在同一带。PAD(Wang et al., 2024,预测与动作的联合去噪过程)是另一个早期尝试,在一个联合去噪过程里同时做未来图像预测与机器人动作生成。UWM(Unified World Models,Zhu et al., 2025)则在统一 Transformer 内为视频与动作分配独立的噪声 ,以支持更灵活的推理模式------其核心创新是在单一骨干内用独立扩散时间步显式统一逆动力学、联合预测、视频生成等四种模型。UVA(Unified Video Action Model)与 DreamVLA(Zhang et al., NeurIPS 2025,CALVIN ABC-D 平均长度 4.44)也都坐在这波联合预测浪潮周边。DreamVLA 通过逆动力学建模建立"感知-预测-行动"闭环,先预测动态/空间/语义世界知识再条件化推断动作,与 UniPi 式"先想象未来再求动作"一脉相承。
3.2.3 表征-only:推理时跳过视频生成
第三个选项是把视频骨干纯粹当作表征 ,在推理时完全跳过视频生成 。Fast-WAM(Yuan et al., 2026,blog-only)是这个想法的好例子。Fast-WAM 用与 LingBot-VA 类似的 Wan/MoT 式 setup,即便没有 16k 小时的大规模机器人预训练,也能在仿真基准上接近 LingBot-VA 的性能;此外,测试时跳过视频生成使其推理快上几倍。其核心论点是:训练时利用世界模型先验联合学习状态与动作,推理时省略视频解码、直接从中间表征回归动作,即可在保持性能的同时获得速度提升。
但作者坦率地给出他的判断:Fast-WAM 是表征-only 假设少数公开证据之一,当前的仿真证据还不足以真正说服他 。他也愿意在未来工作里被说服。作者由此点出一个趋势判断:当今大多数 WAM 在推理时仍保留某种形式的视频生成,因此非常慢。像 Fast-WAM 这样的更快 WAM 将在未来成为一个大得多的研究方向。
3.3 动作整合轴:动作如何进入模型
讨论完"视频与动作预测如何组合",接下来聚焦"动作在模型内部如何被表示"。这个选择之所以重要,是因为一个根本性的 modality mismatch(模态失配) :预训练骨干会去噪的是视觉 token,而不是连续的机器人动作。作者在当前论文中看到三种变体。
3.3.1 默认动作 token
最简单的默认做法是:添加动作 token(连续或离散),加一个动作头,把动作当作与视频并列的另一种模态。UniPi、GR-1、DreamZero、LingBot-VA、VPP、mimic-video、Fast-WAM 都用了某种版本的这种方式。风险正是前述的模态失配:action chunk 与骨干预训练时所用的视觉 token 不同,模型必须在动作微调时调整自己的表征。这也是为什么 VLA 主线会发展出离散动作 token 化(如 FAST)与梯度隔离等技巧来缓解类似问题------WAM 这边同样要面对这个张力。
3.3.2 Action-as-image:让动作变成视频模型已经认识的东西
另一个选项是把动作变成视频模型已经认识的东西 。不引入新的动作 token 或独立动作头,而是把动作编码为同一生成界面里的视觉目标,从而不打乱预训练视频表征。
先驱:GENIMA(2024)。

图 17:GENIMA 把动作转为视觉目标:图像模型在 RGB 空间预测关节动作目标,下游控制器再把这些目标映射回机器人指令。图源 Shridhar et al., 2024。
GENIMA(Shridhar et al., CoRL 2024)是这个方向最近的早期祖先。它微调 Stable Diffusion,让其在 RGB 图像上"画出"关节动作目标(彩色标记/箭头),再用一个控制器把这些视觉目标映射成关节位置动作。其核心创新是把行为克隆转化为图像生成/编辑问题:在 25 个 RLBench 任务和 9 个真实任务上验证,场景扰动鲁棒性与新物体泛化优于当时的视觉运动方法,且无需 3D 先验。作者点出有趣之处在于接口选择:动作被表达成"生成式图像模型能画出来的东西"。
现代版:Cosmos Policy(2026,NVIDIA)。

图 18:Cosmos Policy 潜在注入:动作、本体感知与价值目标被表示为合成潜在帧,进入同一个视频去噪界面。图源 Kim et al., 2026。
Cosmos Policy(Kim et al., 2026,NVIDIA)是这个方向的现代版。它把动作当作合成的潜在视频帧 :不添加独立的动作解码器,而是把动作、本体感知(proprioception)与价值目标编码为视频模型自身去噪界面里的"假帧",推理时再把预测出的"动作图像"通过对空间维度取平均解码回动作向量。其核心创新是把大型预训练视频模型(Cosmos-Predict2)通过单阶段后训练、零架构修改直接改造为机器人策略,在 LIBERO 达 98.5%、RoboCasa 达 67.1% SOTA。这种 setup 让预训练视频骨干留在其原生的视频去噪空间附近,同时仍能产出机器人动作。从设计哲学上,Cosmos Policy 与 GENIMA 同属"动作即视觉"思想,但用潜在帧而非显式目标图像------这也是为什么它自然适配单体 DiT 架构。
3.3.3 潜在动作与潜在计划:把行为压成紧凑抽象
另一个选项是把行为压缩成潜在计划(latent plan)或潜在动作(latent action) ,再让策略条件化于这些抽象。这个方向之所以有吸引力,是因为完整视频预测很贵,而控制其实并不需要大多数像素。作者说明:潜在计划与潜在动作并不完全是同一回事 ,但在本讨论里他把它们归在一起------二者都是从轨迹或视频中学到的紧凑行为抽象。主要差别在粒度与监督 :计划通常覆盖一个多步窗口、往往需要配对的机器人数据;而 Genie/LAPA 风格的潜在动作可以从无标注视频中学到。
先驱:Play-LMP(2019/2020)。

图 19:Play-LMP 架构。识别网络(recognition network)在训练时把轨迹窗压缩为潜在计划;推理时提议网络(proposal network)从当前观测与目标图像预测潜在计划。图源 Lynch et al., 2020。
Play-LMP(Lynch et al., CoRL 2020)在 2019 年就提出了这个想法。这值得记住,因为这个基本思想比当前的基础模型浪潮更早。Play-LMP 把子任务压缩进一个小潜在空间,作为条件化底层策略的中间抽象------这远在今天的大机器人数据集与预训练模型出现之前。其核心创新是用人类遥操作"玩耍(play)"数据替代狭窄任务演示来规模化技能学习:play 数据采集廉价、无需分割/标注/复位,交互空间约为任务演示的 4 倍。具体地:一个 posterior 网络(后验网络)把短轨迹窗压缩成潜在计划,一个 prior 学会从当前观测与目标图像预测该潜在计划,一个底层策略把采样出的计划解码成动作。
潜在动作的现代浪潮:从无标注视频学动作。 现代潜在动作浪潮改变了规模与数据来源 。Genie(Bruce et al., DeepMind, ICML 2024)表明潜在动作 token 可以从无标注互联网视频中学到、并用来驱动一个动作条件世界模型------其核心创新是首个从无标注视频以无监督方式训练的生成式可交互环境(11B 参数,由时空视频分词器、自回归动力学模型和可扩展潜在动作模型组成,全程不使用真实动作标签)。Genie 本身不把这些潜在量解码成真实机器人电机指令,所以它不是机器人策略;但它让这个想法变得可扩展:在没有真实机器人动作的情况下,从视频学一个"动作式"抽象 。LAPA(Ye et al., ICLR 2025)随后把这类潜在动作预训练推向 VLA 风格的机器人学习------其核心创新是无需机器人动作标签的 VLA 预训练:先用 VQ-VAE 在无标签视频上学帧间离散潜在动作,再预训练"潜在 VLA"预测潜在动作,最后用小规模机器人数据微调映射到真实动作,证明海量无标签视频潜在动作预训练可超过用真实动作标签训练的 SOTA VLA。
现代放大版:Being-H0.7(2026)。

图 20:Being-H0.7 潜在世界-动作架构。posterior 分支把观测到的行为压缩成潜在 token,prior 分支则预测这些 token,以实现快速的测试时策略推理。图源 BeingBeyond Team, 2026。
Being-H0.7(Luo et al., 2026,BeingBeyond Team)是原始 Play-LMP 思想的现代 WAM 版本。它保留了 prior/posterior 潜在计划的逻辑,但在基础模型尺度上执行,并做了若干重大改动。与 Play-LMP 的小型分层潜在计划策略不同,Being-H0.7 用一个更大的 Mixture-of-Transformers 骨干 。类似 Play-LMP,模型有一个 posterior 分支和一个 prior 分支:posterior 分支能访问未来观测,用冻结的 V-JEPA2.1 视觉编码器与 Perceiver resampler 把它们编码成 K 个未来 embedding 并压缩;prior 分支用可学习的潜在 query,学会从可用上下文匹配那些"未来知情"的潜在状态。测试时 posterior 分支被移除,于是策略获得一个快速的潜在接口,而不必强迫模型重新生成完整视频序列。动作生成部分仍是 flow-matching 动作策略。Being-H0.7 在 200,000 小时自我中心人类视频 + 15,000 小时机器人演示上训练。
作者把两代潜在抽象配方做了对照:
| 设计选择 | 潜在计划 / Play-LMP(2020) | Being-H0.7(2026) |
|---|---|---|
| 主思想 | 把短机器人行为窗压成潜在计划,条件化底层策略 | 从大规模自我中心视频与机器人演示学一个潜在世界-动作模型 |
| 数据来源 | 机器人 play / 演示轨迹 | 200k 小时自我中心人类视频 + 15k 小时机器人演示 |
| 架构 | 分层潜在计划策略;LSTM 底层解码器 | 大型 MoT Transformer 做潜在世界-动作建模 |
| 潜在变量 | 轨迹级潜在计划,prior/posterior 训练 | 同样的 prior/posterior 结构,基础模型尺度 |
| 策略接口 | 预测 prior 计划;底层策略条件化于观测与目标来执行 | 训练两个分支;测试时仅 prior 分支经紧凑潜在接口运行 |
表 3:潜在抽象------早期潜在计划配方 vs 现代放大版潜在世界-动作配方。
作者点出关键:差别不在潜在变量本身。Play-LMP 早已有了核心的 prior/posterior 潜在计划思想;Being-H0.7 展示的是这个接口如何能在现代 WAM/VLA 混合体内部被放大。
潜在动作也已成为动作条件世界模型的流行抽象。一个近期例子是 DreamDojo(Gao et al., 2026):它从 44k 小时自我中心人类视频(迄今最大的世界模型预训练视频集)学习通用机器人世界模型,用连续潜在动作 作统一代理动作缓解动作标签稀缺,后训练展现强物理理解与精确动作可控性,蒸馏加速到 10.81 FPS 实时。作者强调一个重要区分------与逆动力学的监督路径区别 :逆动力学 WAM 通常需要配对的"视频+动作"数据来学习视觉转移如何映射到电机指令;而潜在动作方法先从视频本身学一个行为抽象,之后再把这个抽象连到机器人动作。这是一条不同的监督路径,也是潜在动作路线在数据可扩展性上的根本优势所在。
3.4 架构轴:分层、单体,还是 MoT?
第三条轴是架构:组件在结构上如何组装。这条轴大致正交于前两条------逆动力学可以是分层或 MoT 式,联合预测可以是单体或专家式,潜在动作方法可以套进几种不同的外壳。
分层(Hierarchical)。

图 21:分层架构:视频预测与动作生成分两阶段,单向连接。
分层是最灵活 的设计,因为动作头完全模块化。它可以是任何东西:从一个简单的 CNN 回归器(UniPi),到一个完整的 VLA 栈(Pi-0.7 的 BAGEL 子目标 + 完整的 VLA 动作专家),而 VPP 与 mimic-video 处在中间------它们传递的是中间视频模型特征而非完整 RGB rollout。分层架构的代价是视频与动作两阶段之间耦合较弱:信息单向流动,所以当视频与动作应该强相互影响时,这种风格不那么自然。
单体(Monolithic)。

图 22:单体 Transformer:单个 Transformer 端到端联合去噪视频与动作。
单体 Transformer,如 DreamZero,把视频与动作去噪放进同一个栈 ,从而在两条流之间获得强耦合。它也是 action-as-image 配置(如 Cosmos Policy)的自然契合点------在那里动作与视频本就活在同一个潜在空间。风险在于双优化(dual optimization):同一组模型权重既要处理密集的视觉 token,又要处理稀疏得多的动作目标。这是一个尚未被完全解决的训练难题。
Mixture-of-Transformers(MoT):当前默认。

图 23:Mixture-of-Transformers:模态专属专家经共享注意力耦合。
Mixture-of-Transformers(MoT,混合专家 Transformer)是当前默认 架构,包括在现代 VLA(Pi-0、Pi-0.5)和近期 WAM(LingBot-VA、Fast-WAM)中。模态专属参数让表征保持分离,而共享注意力仍允许视频与动作交换信息。MoT 的源头可以追溯到 Transfusion(Zhou et al., Meta, ICLR 2025)------它确立了"在单一 Transformer 上对离散模态用下一 token 预测、对连续模态用扩散"的混合训练范式,使 WAM 能在单一骨干内联合预测视频与动作;Pi-0 把这套思路在机器人领域发扬光大。作者的预测是:MoT 式设计也将成为主导的 WAM 架构,主要因为它是模块化与耦合之间的一个实用妥协。
3.5 为什么 WAM 现在才起飞
作者给"WAM 为何现在才起飞"的简短回答是:想法并不新,但所需的工具------预训练视频模型------终于跟上了。早期配方(逆动力学的 UniPi、联合预测的 GR-1、潜在抽象的 Play-LMP)有对的想法,但工具有限:更小的骨干、更弱的视频数据、没有开放可用的视频基础模型、以及与现代 action chunk 策略相比表现不佳的逐步动作头。它们的现代对应物(LingBot-VA、DreamZero、Being-H0.7)用的是几年前还不存在的基础设施与大规模机器人数据集。具体地,作者归因为三条:
- 视频骨干变强了。 基于 DiT(diffusion Transformer,扩散 Transformer)的模型如 Wan 和 Cosmos 取代了早期的 CNN 栈,带来更好的时间压缩、flow matching 目标与精心筛选的 web-scale 视频数据。Wan 是 NVIDIA WAM 叙事中典型的开放视频骨干------DreamZero 把 Wan 14B 改造成单体 WAM,LingBot-VA 基于 Wan 2.2-5B;Cosmos 则是 NVIDIA 官方开放世界模型骨干,"策略模型 + 世界模型"双数字孪生框架正是 WAM 定位的体现。
- 骨干开放可用了。 研究者现在可以微调一个强的预训练视频模型,而不必自己付全部预训练成本------这正是 UniPi 当年 167 ZFLOPs 预训练壁垒被打破的关键。
- 动作侧也跟上了。 现代系统用 Transformer 或 flow matching 头预测 action chunk,而不是小的逐步 MLP 头。
这就是为什么 WAM 现在看起来像一个真正的配方,而不只是"换了个更好品牌名的旧想法"。
3.6 WAM 对比总表
最后,作者用一张总表把前面讲过的模型按三条设计轴(范式、动作整合、架构)加上骨干与年份做横向归类。作者提醒:WAM 领域变化很快,这只是一份精选子集;更广的综述见 NTU 的 World Model for Robot Learning 综述。
| 模型 | 范式 | 动作整合 | 骨干 | 架构 | 年份 |
|---|---|---|---|---|---|
| Play-LMP | ---(前 WAM) | 潜在计划 | Transformer + LSTM(scratch) | 分层 | 2019 |
| UniPi | 逆动力学 | 默认动作 token | CNN 视频扩散(1.7B) | 分层 | 2023 |
| GR-1 | 联合预测 | 默认动作 token | Transformer(scratch) | 统一 Transformer | 2024 |
| GENIMA | 逆动力学 | action-as-image | Stable Diffusion / ControlNet | 分层(图像生成 + 控制器) | 2024 |
| Seer | 逆动力学 | 默认动作 token | 视觉/动作 token 上的 Transformer | 统一 Transformer | 2025 |
| VPP | 逆动力学 | 默认动作 token | Stable Video Diffusion | 分层 | 2025 |
| mimic-video | 逆动力学 | 默认动作 token | Video Diff(Cosmos) | 分层 | 2025 |
| DreamZero | 联合预测 | 默认动作 token | Video Diff(Wan 14B) | 单体 DiT | 2026 |
| LingBot-VA | 逆动力学 | 默认动作 token | Video Diff(Wan 2.2-5B) | MoT | 2026 |
| Cosmos Policy | 联合预测 | action-as-image | Video Diff(Cosmos) | 单体 DiT | 2026 |
| Being-H0.7 | 联合预测(潜在) | 潜在计划/动作 | MoT Transformer(scratch,200k+15k 小时数据) | MoT | 2026 |
| Fast-WAM | 表征-only | 默认动作 token | Video Diff(Wan 5.5B) | MoT | 2026 |
表 4:精选 WAM 及相关模型,按三条设计轴(范式、动作整合、架构)加骨干与年份对比。
这张表把本章的全部分类工作浓缩在一处。读它的时候可以注意到几个模式:默认动作 token 是压倒性的主流动作整合方式(11 个里有 8 个);MoT 在 2026 年的模型中已是默认架构;而真正"现代放大"的标志------开放视频骨干(Wan/Cosmos)+ DiT + 大规模数据------几乎集中在 2025-2026 年的几行里,这恰好对应作者所说的"工具终于跟上"的时间窗。
范式与架构都已铺开,但把"想象未来"塞进策略是要付代价的。下一章直面 WAM 落地的三大现实痛点:训练贵、推理慢、内存与系统复杂。
第四章 工程实践考量:视频先验的代价与推理速度
WAM 在前文展示了令人兴奋的潜力------DreamZero 在 RoboArena 上跑出 1750 分、超过 Pi-0.5,视频骨干把"想象未来"内化为策略能力。但范式成立不等于工程可行。本章直面 WAM 落地的三大现实痛点:训练贵、推理慢、内存/系统复杂 。作者用一组基于 C ≈ 6NT 下界估计的算力对比(图 24,对数坐标)把"视频先验的代价"量化成了可比较的数字:从 DreamZero 的 ~9 ZFLOPs action-tuning,到 Summer-22B 的 ~66 ZFLOPs 视频预训练,再到 VLA Foundry 全链路仅 ~6.9 ZFLOPs------两者差距约 7.4 倍。推理侧则更直接:带测试时视频生成的 WAM 每个 action chunk 要 590--800ms,是 Pi-0.5(~190ms)的 3--4 倍。这些数字共同回答了一个关键问题:WAM 用算力和延迟换来了更强的视频先验,这笔交易是否划算,目前仍是开放的工程判断。
4.1 三大工程痛点
作者在进入具体数字之前,先把 WAM 的工程问题归纳为三条,它们贯穿本章讨论:
- 训练成本高(High training cost)。视频骨干要处理的 token 数量远超图像条件下的动作策略,而完整的视频预训练本身极其昂贵。VLA 只编码一两张图加文本再预测短动作 token 序列;WAM 则要预测一长串视频 latent 再叠加 action token,视频 token 序列通常是 VLA 的 ~10 倍长。
- 推理慢(Slow inference)。任何在推理时生成或去噪未来视频 latent 的策略,都比"纯 VLA 一步出动作"慢得多。这对实时闭环控制是硬伤。
- 内存与系统复杂(Memory and systems complexity)。长视频 token 序列压榨 GPU 显存、节点间通信和数据加载。作者半开玩笑地提醒:"祝你好运,想在你本地 GPU 上跑 10B+ 的 WAM 而不做额外工程优化"。
4.2 视频先验的代价
为什么 WAM 训练比 VLA 贵:序列长度的乘法效应
理解算力差距的根源,关键在于 token 序列长度 。VLM-based VLA 在两个阶段都更便宜,因为它的序列短:编码一到几张图加文本,然后预测一段文本或一个短动作 token 序列。WAM 则要训练模型去预测一段视频 latent 序列,外加额外的 action token。作者给出一个量级判断:视频 token 序列通常是 VLA 序列的 ~10 倍长。在同样的数据集上,仅这一项就让 WAM 训练比默认 VLA 训练贵一个量级。这也是为什么 WAM 的"算力叙事"不能只看 action-tuning 阶段------视频骨干本身那笔从零或大规模视频语料训练的预训练开销,才是真正的大头。
算力下界估计方法:C ≈ 6NT
训练成本在不同模型间极难公平比较:每篇论文报告的口径不同(有的报 GPU-hours,有的报步数/样本/token,有的干脆不报完整预算)。作者采用一个稠密 transformer 下界估计来做跨论文的量级归一化:
C train ≈ 6 × N train × T C_{\text{train}} \approx 6 \times N_{\text{train}} \times T Ctrain≈6×Ntrain×T
其中 N train N_{\text{train}} Ntrain 是可训练稠密参数量, T T T 是处理的 token 总数。换算单位为 ZFLOPs(1 ZFLOP = 10 21 10^{21} 1021 FLOPs)。为了把 FLOP 翻译成工程师更有体感的硬件时间,作者用 H100 的一个直觉换算:以非稀疏稠密 BF16 等效 H100 峰值吞吐、约 30% 利用率估算,1 ZFLOP ≈ 936 H100-hours 。也就是说,1 ZFLOP 大致相当于一块 H100 不间断跑 39 天。需要强调的是,这个估计排除了 预处理、数据加载、优化器开销、冻结编码器的前向、VAE 编解码、超出 6NT 近似的注意力项、通信开销和硬件特定效率等因素。它的目的是量级归一化,而非精确的系统审计------拿来比"谁大概在哪个量级"是可以的,但不能当成真实的墙钟成本、云成本或端到端能耗。

图 24:各 VLA/WAM 训练配方的稠密核心算力下界估计,对数坐标。来自原文,按论文/模型卡报告的参数、样本、token 或 GPU-hours 推导,逐行 caveat 见下表与脚注。
关键数字解读
图 24 把多个 VLA/WAM 配方按 ZFLOPs 排在对数坐标上。以下是几个最值得记住的锚点:
- VLA Foundry 全链路:~6.9 ZFLOPs。这是从小规模从零做 VLA 的代表性配方(1--2B 规模),包含 LLM 预训练(800B token,~5.9 ZFLOPs)、VLM 阶段(~0.41 ZFLOPs)、VLA/动作阶段(~0.56 ZFLOPs)。LLM 阶段占据绝大部分。
- Pi-FAST / FAST DROID 动作微调:~0.77 ZFLOPs(按 240k 步口径)。这是 FAST 式离散动作 token 策略在 DROID 上做动作微调的代表性行;注意它敏感于步数和序列长度,OpenPI 当前公开的 100k 步配置在同口径下仅 ~0.32 ZFLOPs。
- DreamZero WAM action-tuning:~8.6--9.0 ZFLOPs 。这是对 14B Wan 视频骨干做下游 WAM 适配的成本,100k 步、batch 128、每序列约 8.0--8.4k token。注意它不包含 Wan 视频骨干本身的预训练成本,也不含冻结编码器、VAE、通信和数据流水线开销。
- MolmoAct2 报告的 VLA 全栈到 DROID:~9.8 ZFLOP-equivalent。由报告的 5,760 + 2,304 + 1,152 = 9,216 H100-hours 换算而来,但起点是 Molmo2-ER,且未计入 Molmo2-4B、Molmo2-ER 专门化、OpenFAST tokenizer 训练以及上游 Qwen3/SigLIP2 预训练。
- Summer-22B 视频预训练:~66 ZFLOPs。22B 参数、约 500B 视频 token 从零训练视频扩散模型,是一个公开的、透明的视频基础模型预训练算力参照。
- Wan-14B 全栈 WAM 代理估计:~51 ZFLOPs 。因为 Wan-14B 没有公开预训练算力,作者用 Summer-22B 的 token 预算作为 14B Wan 规模视频预训练的代理,再叠加 DreamZero 式 action-tuning,得到"视频预训练 + WAM 适配"的全栈量级。需要明确:这不是 Summer-22B 加 DreamZero 的真实总和(那会是 66 + 9.0 = 75 ZFLOPs),而是把 Summer 的 token 预算缩到 14B 规模后的代理估计。
把这些数字放在一起看,最关键的对比是:Wan-14B 全栈 WAM 代理估计(~51 ZFLOPs)相对 VLA Foundry 全链路(~6.9 ZFLOPs)有约 7.4 倍的差距。作者明确说:"这些数字展示了 WAM 在规模化训练上的挑战。"换算成 H100-hours 更直观:6.9 ZFLOPs ≈ 6,500 H100-hours(约 9 块 H100 跑一个月),而 51 ZFLOPs ≈ 4.8 万 H100-hours(约 64 块 H100 跑一个月)。这还只是稠密核心下界,真实工程开销只会更高。
算力对比表(逐行 caveat)
下表把原文对比表的中文化重绘,保留每行"计入什么 / 估计 / 主要 caveat"三栏,便于读者理解每个数字的可比性边界:
| 对比行 | 计入什么 | 估计 / 报告口径 | 主要 caveat |
|---|---|---|---|
| VLA Foundry VLA/动作阶段 | 仅 Foundry VLM 之上的最终 VLA/动作训练阶段 | ~0.56 ZFLOPs(~1.65B 可训练参数、102.4M 样本、~549 token/样本) | 不含 LLM/VLM 预训练 |
| Pi-FAST / FAST DROID 动作微调 | FAST 式 VLA 动作 token 策略在 DROID 上的代表性微调 | ~0.77 ZFLOPs(240k 步口径);当前 100k 步 OpenPI 配置同口径约 ~0.32 ZFLOPs | 对步数和序列长度敏感;非论文报告的算力预算 |
| VLA Foundry 全链路 LLM→VLM→VLA | 从零小规模 VLA Foundry 路径:语言预训练 + VLM 训练 + VLA/动作训练 | ~6.9 ZFLOPs,由 800B-token LLM 阶段主导 | 是 1--2B 开源配方,非前沿规模 VLA |
| DreamZero WAM action-tuning | 预训练 Wan-14B 视频骨干的下游 WAM 适配 | ~8.6--9.0 ZFLOPs(100k 步、batch 128、约 8.0--8.4k token/序列) | 不含产生 Wan 的成本;不含冻结编码器、VAE、通信与数据流水线开销 |
| MolmoAct2 报告的 VLA 全栈到 DROID | MolmoAct2-Pretrain + post-training + DROID 本体微调,起点为 Molmo2-ER | ~9.8 ZFLOP-equivalent(5,760 + 2,304 + 1,152 = 9,216 H100-hours) | 不含 Molmo2-4B、Molmo2-ER 专门化、OpenFAST tokenizer 训练及上游 Qwen3/SigLIP2 预训练 |
| Wan-14B 全栈 WAM 代理估计 | Wan 规模视频预训练代理 + DreamZero 式 action-tuning | ~51 ZFLOPs = 14B Wan 式视频预训练代理(500B token)+ DreamZero 式 tuning | 非 Summer-22B 加 DreamZero;用 Summer 的 token 预算作 Wan 规模视频预训练代理 |
| Summer-22B 视频预训练 | 从零 22B 视频扩散模型在 ~500B 视频 token 上预训练 | ~66 ZFLOPs(22B 参数 × ~500B 视频 token) | 透明的视频预训练估计,非论文报告的 FLOP 总数 |
读这张表时,最重要的原则是:各行的"计入边界"差异巨大,不能简单把数字相减得出"WAM 比 VLA 贵 X 倍"。DreamZero 的 9 ZFLOPs 是 action-tuning only,视频骨干被当成"免费的起点";而 VLA Foundry 的 6.9 ZFLOPs 是含 LLM 预训练的全链路。真正可比的"全栈 WAM"数字是 Wan-14B 代理估计的 ~51 ZFLOPs,它把视频骨干的预训练成本也纳入了------这才是"WAM 真要从零做到部署"的量级。
超越 FLOP:硬件与系统工程门槛
作者特别提醒,算力不只是总 FLOP 数。一个 14B 参数模型配上约 8k-token 的 action-tuning 序列,需要可观的 GPU 显存 ,通常还需要带高端互联的多节点集群 。成功的视频模型训练还依赖一整套系统工程:稳健的数据过滤、字幕生成(captioning)、视频解码、latent 预处理、分布式 I/O,以及长序列 DiT 基础设施。这些"看不见的工程"往往是中小团队真正卡住的地方------光有 GPU 预算不够,还得有一套能喂饱长序列视频 token 的数据与训练流水线。这部分也呼应了作者在 §3.5 提到的"WAM 为什么现在才起飞":早期 UniPi 那种从零训练 CNN 视频扩散的做法,作者粗估预训练就在 ~167 ZFLOPs(约 15.6 万 H100-hours),对多数机器人实验室是天文数字。正是因为 Wan 这类开放预训练视频骨干的出现,让研究者可以跳过这 10 23 10^{23} 1023 FLOP 量级的预训练阶段,直接在已有骨干上做 action-tuning,WAM 才从"老想法"变成"可复现的配方"。Wan 的核心创新是基于 DiT 的全开放视频基础模型套件(1.3B 与 14B),验证了视频生成的 scaling law;它直接成为 DreamZero、LingBot-VA 等现代 WAM 复用的视频骨干,使 WAM 免去从零预训练视频模型的代价。
4.3 数据质量:另一条同样重要的论点
算力是"量"的问题,但 WAM 还有一个"质"的维度。作者指出,DreamZero 论文提出了一个明确的数据质量论断:更强的视频生成能力会转化为更强的策略性能。这一论断的含义是:WAM 不仅"吃算力",还"吃视频数据质量"------数据过滤、字幕质量、latent 表示、生成式预训练,全都成为策略配方的一部分。换句话说,WAM 的策略性能与视频生成质量之间存在相对清晰的因果链。
对比之下,VLM-based VLA 并不呈现同样干净的联系。VLM4VLA(Zhang et al., 2026)的发现是:VLM 初始化相对从头训练确有帮助,但 VLM 的通用能力对下游 VLA 性能的预测力很差 。对 WAM 而言,视频生成质量是好策略的必要条件 ;对 VLA 而言,空间目标(spatial objectives)等能力远比其他视觉能力重要得多。这个对比值得深思。它意味着两条路线的"投入-产出曲线"形状不同:WAM 的投入(算力 + 高质量视频数据)更直接地映射到策略产出,但门槛也更高;VLA 的 VLM 通用能力是个"模糊资产",难以预测到底能迁移多少到操作任务上。作者借此暗示:选择 WAM 还是 VLA,某种程度上是在赌"哪一种投入更可预测地转化为策略能力"。
4.4 推理速度:3--4 倍的实时控制代价
训练贵是一次性成本,推理慢则是持续性的部署税。VLM-based VLA 本身并不总是快,但默认带测试时视频生成的 WAM 通常更慢。
作者引用 Fast-WAM 给出的代表性数据作为参照。Fast-WAM 的核心创新是针对 WAM 推理时需生成未来视频导致延迟过高,提出推理阶段跳过视频生成、直接以表征输出动作,论证训练时利用世界模型先验、推理时省略视频解码即可在保持性能的同时获得速度提升。两个常见的 WAM 推理模式(联合预测、带完整视频生成的逆动力学)每个 action chunk(动作块)需要 590--800ms ,而 Pi-0.5 大约只要 190ms 。这意味着 WAM 在推理时慢了 3--4 倍。对于 7Hz 以上的实时闭环控制,这种延迟差距是实质性的------不是"慢一点",而是可能直接决定能否上线。具体数字当然取决于硬件、实现、扩散步数和 action-chunk 长度,但量级关系是稳定的。
加速方向
作者指出,已经有一些路径可以缓解这个延迟问题,主要来自两个方向:
- DreamZero 的系统优化路线。DreamZero 通过模型与系统联合优化在 14B 规模上实现了 7Hz 实时闭环,说明"大而慢"并非 WAM 的宿命------足够的系统工程投入可以把延迟压到可用区间。
- Fast-WAM 的"跳过视频生成"路线 。这是更激进的思路:既然推理时生成像素视频是延迟大头,那干脆推理时不生成视频、只从中间表征直接解码动作。Fast-WAM 表明,训练时仍吸收世界模型先验,推理时绕过视频解码器,可以在保持性能的同时把速度提上来。
但作者也坦承现实:在没有大 GPU 的情况下,本地运行这些模型仍然困难。这正是为什么"更快的 WAM"会成为未来的重要研究方向------Fast-WAM 目前是为数不多的、公开支持"表征-only"假设的证据之一,作者明确表示当前的仿真证据还不足以让他完全信服这条路线,但欢迎未来工作来改变这一判断。视频先验不是免费的------它的代价写在 ZFLOPs 和毫秒里。但 WAM 的对手也不是原地不动:现代 VLA 基线同样在快速进化。下一章把视角切回 VLA 这一边。
第五章 现代 VLA 基线为何依然重要
在前几章把 WAM 的设计空间、动作整合方式与算力代价讲清楚之后,本章把视角切回到它的"对手"------基于 VLM 的现代 VLA 基线。作者指出,现代 VLA 已经不再是早期那种"VLM 加一个 flow-matching 头"的粗糙拼接,而是收敛出一套相当成熟的配方:离散动作 token 化、VLM 保留式协同训练、隔离动作头、更宽数据配比。这套配方在 RoboArena 上拿出了 Pi-FAST(1592) 与 Pi-0.5(1622) 这样有竞争力的数字,说明任何"视频骨干才是更好默认选项"的论断都必须先打过当前 SOTA 的 VLA 配方才成立。本章的结论是:当下 WAM 与 VLA 之间并没有真正的赢家,WAM 在仿真鲁棒性上表现出色但仅限于仿真,而 VLA 在 grounding(语言到具体目标的落地)上仍有结构性的墙要撞。
5.1 现代 VLA 配方的四大改进
作者认为,VLA 的架构 已经基本收敛,真正在变化的是训练配方 。当前 VLA 的默认架构是 Mixture-of-Transformers(MoT,混合专家 Transformer)配方------它最早由 Transfusion 在视觉领域引入(核心创新:在单一 Transformer 上把语言建模的下一 token 交叉熵损失与图像扩散损失混合训练,建立跨模态 scaling law;与 WAM 的关系:它是 WAM 中"MoT + 联合预测"范式的源头,让单一骨干既能用 token 预测处理离散动作/文本、又能用扩散处理连续视觉/状态),并由 Pi-0 在机器人领域推广开来。架构没怎么变,但训练配方变了。早期的 flow-based(基于流匹配)动作头造成了从离散 next-token VLM 预训练到连续动作去噪的强烈扰动。更新的配方都在想办法减少这种扰动,作者把它们归纳为四点:离散动作 token 化、VLM 保留式协同训练、隔离动作头、更宽的数据配比。
改进一:离散动作 token 化------把动作变成 VLM 可学的"新语言"。 许多现代 VLA 使用 FAST 或 BEAST 这类离散 tokenizer,把动作表示成一种 VLM 可以学习的新"语言"。这里的动机是一个深层的优化冲突 :VLM 在预训练时是为离散 next-token 预测(cross-entropy 损失)而优化的,而机器人动作活在连续空间里,通常用 flow matching(流匹配)建模。如果朴素地用 flow-matching 目标去微调一个 VLM,会导致对预训练语言与视觉能力的灾难性遗忘 。Knowledge Insulation 系统研究了这一现象,并提出"知识隔离"技术:通过隔离流匹配动作专家的梯度使其不污染 VLM 骨干,兼得训练快、推理快与更好泛化------这一技巧当把视频世界模型骨干改造为 WAM 并附加动作专家时同样可保护骨干。在测试时,带独立动作头的系统可以丢掉慢速的自回归动作 token 预测路径,直接让动作头干活------这同时收获了训练时的表征共享与推理时的速度。
要直观理解灾难性遗忘的影响有多大,可以再看一眼 RoboArena 排行榜快照。Pi-FAST 和 Pi-0-DROID 用的是同一个骨干,都在 DROID 上微调,区别只在于 Pi-FAST 去掉了 flow 部分、改用离散 FAST token 生成动作。结果是:Pi-FAST 拿到 1592 分,而 Pi-0 只有 1475 分------这是一个相当大的差距,支持了"离散动作配方能比原始 Pi-0 的 flow-based 设置保留更多有用的预训练能力"的判断。

图 16:2026 年 4 月 RoboArena 排行榜快照,展示 Pi-0(1475)、Pi-FAST(1592)、Pi-0.5(1622)、DreamZero(1750) 四个代表性策略的 Elo 得分对比。Pi-FAST 相对 Pi-0 的提升佐证离散动作配方的价值,Pi-0.5 进一步领先体现协同训练配方的作用,而 DreamZero 以视频目标先验取得当前最高分。
改进二:VLM 保留式协同训练------让 VLM 与动作侧各专所长。 第二点来自 Pi-0.5 风格的系统:在 VLM 数据与机器人数据上协同训练(co-training) ,并且常常在 VLM 与 flow/action 组件之间做梯度隔离,以获得更快、更稳定的收敛。这种做法的本质是:让 VLM 一边继续"练习"语言与视觉理解,一边让动作侧专门化到操作任务上。同一个 pattern 出现在最近一系列 VLA 工作中,包括 Pi-0.5、Xiaomi-robotics-0 与 Being-H0.5。在 RoboArena 上,Pi-0.5 以较大幅度同时超过 Pi-FAST 和 Pi-0(1622 vs Pi-FAST 的 1592 与 Pi-0 的 1475)。
| 策略 | 训练配方要点 | RoboArena Elo(2026-04 快照) | 备注 |
|---|---|---|---|
| Pi-0 | VLM 骨干 + flow-matching 动作头,DROID 微调 | 1475 | 早期 flow-based 配方,灾难性遗忘较重 |
| Pi-FAST | 同骨干,去 flow、改离散 FAST token,DROID 微调 | 1592 | 离散动作配方保留更多预训练能力 |
| Pi-0.5 | VLM 数据 + 机器人数据协同训练,梯度隔离 | 1622 | 协同训练配方进一步领先 |
| DreamZero | 14B 视频扩散骨干单体 WAM,视频/图像目标先验 | 1750 | 视频目标先验带来的额外增益 |
改进三与四:隔离动作头与更宽数据配比。 隔离动作头(isolated action heads)和梯度隔离是一体两面:在 MoT 架构里给动作专家一套专属参数/专属梯度通路,使其既能借助 VLM 共享注意力带来的丰富表征,又不让动作侧的连续去噪梯度反污染 VLM 骨干。更宽的数据配比(broader data mixtures)则是 Pi-0.5 系列的另一个支柱------把多机器人、网页、物体检测、语义子任务等多模态异构数据一起喂进训练,用数据多样性换开放世界泛化。这两点合在一起,解释了为什么 Pi-0.5 能在 RoboArena 上稳定领先于纯 flow 配方与纯离散配方。
5.2 VLA 仍撞 grounding 墙
配方改进到这一步,VLA 是不是就稳赢了?并非如此。作者指出,即使有了这些配方改进,VLA 依然会撞上 grounding 墙(grounding wall) 。问题出在语言本身:用语言来表达行为目标是一种**欠定(underspecified)的方式。在杂乱场景里,一句文本指令几乎从不能精确指定相关的物体实例或期望的物理状态。于是策略容易过拟合到背景物体等虚假相关性(spurious correlations)**或其它数据集偏差上。这一判断有两条证据:
- Pi-0.7 的语言-only vs 目标图像条件 gap 。Pi-0.7 报告了仅用语言提示与用目标图像条件化之间的差距,这条 gap 支持了"视觉子目标能改善语言跟随、并让训练收敛更快"的观点。
- DreamZero 的 1750 分 。DreamZero 在同一张 RoboArena 快照上拿到 1750 的 Elo 分,是"视频/图像目标先验能帮忙解决这类 grounding 问题"的另一个论据。
换句话说,VLA 的 grounding 墙恰恰是 WAM 路线想要绕开的痛点------用视觉化的未来状态(视频/图像子目标)去补足语言指令的欠定性。
5.3 鲁棒性证据:Zhang et al. 的匹配扰动对比
除了 RoboArena 的真机 Elo 排名,还有一组更受控的对比值得注意。Zhang et al. 在 LIBERO-Plus 和 RoboTwin 2.0-Plus 上、在匹配扰动(matched perturbations)条件下,对 LingBot-VA、Cosmos Policy 和 Pi-0.5 做了基准对比。LingBot-VA 基于 MoT 的自回归扩散框架同时学习帧预测与策略执行;Cosmos Policy 将大型预训练视频模型 Cosmos-Predict2 通过单阶段后训练直接改造为机器人策略,机器人动作被编码为潜在扩散过程中的合成潜在帧。他们的结果显示:WAM 可以在不使用 VLA 基线那种更宽训练数据配比的情况下,达到很强的鲁棒性。这对 WAM 路线是一个正面的证据------它不需要靠堆更多样化的数据来换取扰动下的稳定性,世界模型式的因果先验本身就提供了相当的鲁棒性。
但作者立刻给这条证据加了一个重要的限定:该对比仅限于仿真环境,并未覆盖真机泛化。这一点不能忽略。LIBERO-Plus 与 RoboTwin 2.0-Plus 是受控的仿真基准,扰动是人为设计并匹配的;真机世界里的光照、遮挡、动力学偏差、接触不确定性要复杂得多。所以这条鲁棒性证据是"在仿真里 WAM 不靠宽数据也能鲁棒",而不是"WAM 在真机上比 VLA 更鲁棒"。当前没有真正赢家:作者认为,WAM 与 VLA 之间目前并无真正的赢家,甚至"是否终将有一个赢家"本身都成问题。两条路线各自撞墙------VLA 撞 grounding,WAM 撞真机泛化与推理代价------那么这两条路是否终将合一?下一章给出作者的判断与早期信号。
第六章 两条路会合一吗?混合架构与第四条路线
前几章我们看到:VLA 路线以 VLM 骨干 + 流匹配动作专家为核心配方,在落地与泛化上已相当成熟;WAM 路线则以视频/世界模型先验为支点,从"想象未来"侧攻击指令到动作的鸿沟。一个悬而未决的问题是------这两条表征路线在长期是否真会保持分立?作者的判断是:未来的机器人基础模型很可能是两者的混合,而非某一方胜出。本章梳理这一"合流"趋势的早期信号(Motus、BagelVLA、Pi-0.7、Cortex 2.0、Being-H0.7),点出算力成本是阻碍"一模型做所有事"的主因,并补充作者提出的第四条路线------robotics-first 基础模型(RFFM)------以及与之正交的潜在世界模型方向。

图 25:作者设想的长期收敛图景------VLA 式、WAM 式两条路线之外,还存在一条融合两者的第三条通用路径。
6.1 两条路已经开始互相借用对方的核心组件
作者指出,所谓的"两条路是否合一"并非凭空设问------双方已经在悄悄吸收对方的标志性组件:
- VLA 一侧在引入世界模型式的能力 :近期一些 VLA 已开始用世界模型风格的模块来改善目标跟随(goal following),典型例子是 Physical Intelligence 的 Pi-0.7。其动作专家并非直接吃语言指令,而是条件化在"由世界模型在测试时生成的视觉子目标"上。
- WAM 一侧在借用 VLA 的 MoT 配方:许多近期 WAM 把 VLA 社区成熟的 Mixture-of-Transformers(MoT)配方拿来用作动作专家(action expert)的组织方式。也就是说,WAM 的"动作塔"越来越长得像 VLA 的动作专家。
作者据此给出一个明确判断:"The future of robot foundation models appears to be a mix of both."(机器人基础模型的未来看起来是两者的混合。)这种互相借用之所以可能,是因为两条路线在底层已经共享了同一套"骨架":一个理解/感知骨干、一个未来状态预测能力、一个动作输出头。区别只在于谁为主、谁为辅、用什么方式耦合。一旦耦合方式从"二选一"变成"多塔共享注意力",所谓路线之争就在工程上消解了。
6.2 Motus / BagelVLA:一个模型同时做理解、视频生成与动作
"不要在'语言为主'还是'视频为主'的机器人表征之间二选一,而是训练一个模型把所有事都做了"------这是混合架构的核心理念。作者点名 Motus 和 BagelVLA 作为这一方向的早期信号。
Motus 的核心创新是把视频建模与世界/动作生成交由独立的 transformer 塔处理,在单一模型内统一"理解/VLM---视频生成---动作专家"三大能力,主张不必在语言与视频两种机器人表征间二选一。它被作者视为"第三条通用路径"的早期信号,架构上属混合专家(MoT)/多塔共享注意力类,融合了 WAM 的视频/世界建模与 VLA 的动作专家。

图 26:Motus 风格的混合架构示意------三个塔(理解/VLM、视频生成、动作专家)各有专属权重,通过共享自注意力交换信息,指向统一的 VLA+WAM 策略配方。
作者用图 26 给出了一个简化版的多塔结构,其要点可拆解为:三个专属塔(理解/VLM、视频生成、动作专家)各有专属权重 ;三塔通过共享自注意力相互暴露信息,使动作专家能"看到"视频塔想象出的未来、视频塔能"读到"语言塔解析出的指令语义;作者特别强调"非对称注意力模式"------每塔对外暴露的信息可以有选择性,让信息流可控,避免动作专家被视频塔的高维像素细节"淹没";密集 Transformer(dense transformers)或 MoE 风格路由(MoE-style routing)同样可以实现这一高层思路------多塔共享注意力只是其中一种实例化。
BagelVLA 与 Motus 并列被点名,其核心创新是通过交错(interleaved)视觉-语言-动作生成增强长时程机器人操作能力:把子目标图像、语言指令与动作序列以交错序列统一建模,使模型在长程任务中持续"想象下一帧并据此生成动作",缓解误差累积与指令跟随困难。它在统一多模态骨干(类 BAGEL)上将图像帧、语言 token、动作 token 按时序交错排列做下一项预测/生成,使动作预测近似当前帧与期望未来帧间的逆动力学(inverse dynamics)。这条思路把 WAM 风格的未来视觉预测嵌入 VLA 的交错生成流程,是介于联合预测与分层之间的混合范式。
背景:BAGEL(ByteDance Seed)是一个统一多模态预训练框架,将多模态理解与生成统一到单一模型并激发"涌现属性",可作下游 VLA 任务的强力骨干。在 NVIDIA 这篇博客中,BAGEL 同时扮演两个角色------既是 Pi-0.7 子目标世界模型的骨干来源,也是 BagelVLA 交错生成范式的骨干来源。其统一自回归 next-token 框架把文本 token 与视觉 token 统一在同一 transformer 中预测,这恰好为"一个模型同时处理语言、图像、动作"提供了天然底座。
6.3 Pi-0.7:分层式混合------高层发指令、世界模型生子目标、动作专家执行
上一节描述的是"扁平多塔"的混合。作者紧接着指出,分层式 的混合同样已经出现,代表就是 Pi-0.7。Pi-0.7 是 Physical Intelligence 于 2026 年 4 月发布的一个"可操控(steerable)"VLA,其动作专家条件化在测试时由 BAGEL 世界模型生成的视觉子目标上。其分层流程为:
- 高层策略发子任务指令:一个高层策略把长程任务拆解为子任务,发出子任务级别的自然语言指令。
- 世界模型生成子目标图 :基于 BAGEL 的世界模型把这些子任务指令转化为子目标图像(subgoal images)------即"未来应该长什么样"的视觉锚点。
- 动作专家执行:动作专家以"当前观测 + 子目标图像"为条件输出低层动作。
这里的关键洞察是:动作专家不再从语言指令直接推断动作,而是从"当前帧 → 期望未来帧"的视觉转移中推断动作。这正是逆动力学(inverse dynamics)的范式------给定起点和终点,求中间的动作。作者强调,消融实验(ablations)支持了"语言跟随"论点:加入世界模型子目标后,在复杂的指代任务(referential tasks)上指令跟随能力提升;在一些"无子目标变体会失败"的、需要打破数据集偏置(dataset-bias-breaking)的任务上,子目标是必要 的------这呼应了前文所述"语言是欠指定的目标表达方式"这一根本困境;子目标图像还让训练显著更快 ,原因正是动作预测变成了"当前帧与期望未来帧之间的逆动力学问题"。作者在"证据阶梯"上的评价很审慎:这是一个真机信号 ,表明视觉子目标即便在 VLA 风格的栈内部,也能弥合部分语言接地(language-grounding)鸿沟。但他同时指出,这并不要求更强的论断------即"每个强 VLA 都需要一个完整的视频生成头"。换句话说,Pi-0.7 证明了"子目标有用",但没有证明"全像素视频生成对 VLA 是必需的"。
6.4 Cortex 2.0:把世界模型当作工业部署的规划层
如果说 Pi-0.7 是"VLA 内嵌世界模型子目标"的学术/产品信号,那么 Sereact 的 Cortex 2.0 则是产业部署 侧的信号。Cortex 2.0 的核心创新是把世界模型作为工业级真实部署中的"规划/前瞻层(planning-by-foresight)":世界模型在视觉潜在空间(而非完整 RGB rollout)生成候选未来轨迹,再按预期进展(progress)、风险(risk)与效率(efficiency)打分,以得分最高的 rollout 条件化执行。它强调将 WAM 式前瞻落地到工业操作系统。
这里有两点值得强调:其一,WAM 作为决策层而非单纯策略 ------Cortex 2.0 不是用世界模型端到端替换 VLA,而是把世界模型当作评分/选择式规划模块 嵌入部署管线。这揭示了一个常被忽视的定位------世界模型的价值未必在于"直接生成动作",而在于"生成多个候选未来、评估、选优"。这种规划-执行分离的架构在工业场景下更可控、可解释、可调试。其二,潜在空间 rollout 而非像素 rollout------Cortex 2.0 选择在视觉潜在空间而非完整 RGB 空间 rollout,这与下一节要讨论的潜在世界模型方向一致------潜在 rollout 比基于扩散的像素级视频生成更便宜、更快,且往往给出更干净的规划信号,也呼应了前文 Fast-WAM 类工作"推理时不必生成像素视频"的思路。
6.5 Being-H0.7:基础模型级的混合体
如果说前几个例子是"在 VLA 栈里嵌一个世界模型组件"或"把世界模型当规划层",那么 Being-H0.7 则是作者眼中基础模型级别的混合 最佳范例------它几乎把上面所有要素都装进了一个模型。Being-H0.7 是一个潜在计划式(latent-plan-style)的 WAM/VLA,建立在预训练 VLA Being-H0.5 之上。它的核心创新是在不生成未来视频帧的前提下,把对未来状态的感知推理引入 VLA 策略------在感知与动作之间插入一个可学习的潜在 query 作为紧凑推理接口,推理时丢弃后验分支、不做视觉 rollout(对应 Fast-WAM 跳过视频生成的加速思路)。其组件拼装可谓"集大成":
| 组件 | 来源 | 角色 |
|---|---|---|
| 理解专家 | InternVL3.5 | VLA 式预训练理解骨干,负责语言-视觉理解 |
| 动作专家 | Qwen3 | VLA 式动作专家,输出动作 |
| 视觉编码 | V-JEPA 2(V-JEPA2.1) | 潜在视觉编码器,提供未来观测 embedding |
| 潜在接口 | Play-LMP 风格 prior/posterior | 感知与动作间的紧凑推理接口 |
| 动作策略 | Flow matching(流匹配) | 连续动作生成 |
作者强调,Being-H0.7 成功地把以下要素融为一炉:VLA 式的预训练组件(InternVL3.5 + Qwen3)、V-JEPA2.1 的未来观测 embedding、Play-LMP 风格的 prior/posterior 潜在接口,以及流匹配动作策略。它由 20 万小时人类自我中心视频 + 1.5 万小时机器人数据预训练。
这里需要点出一个关键的架构巧思------prior/posterior 双分支 :训练时用 posterior 分支,它用未来观测的 embedding 替换潜在 query,相当于"作弊地"把未来信息注入潜在推理空间,让模型学会"如果未来是这样,那么潜在状态应该是这样";部署时用 prior 分支,它仅从当前上下文推断潜在状态,不依赖未来观测------因为部署时根本拿不到未来。两分支在潜在推理空间对齐,使 prior 在训练时被 posterior"教导"。这一设计源自 Play-LMP(Learning Latent Plans from Play)的经典思想:用人类"玩耍"(play)数据自监督地在潜在空间组织行为,编码器把行为序列映射到结构化的潜在计划空间,目标条件策略再从潜在计划解码动作。Being-H0.7 把这一 2019/2020 年的"潜在计划"思想现代化,并嫁接到一个真正的预训练 VLA 之上,因此作者称其为"the original Play-LMP idea 的现代 WAM 版本"。
因果链条:Being-H0.7 之所以能"不生成像素视频却仍享有世界模型的好处",正是因为 prior/posterior 双分支让"对未来状态的推理"被压缩进一个紧凑的潜在 query。训练时 posterior 用未来 embedding 监督 prior;部署时只用 prior,绕开了昂贵的视频解码。这就是它能兼具 WAM 的"想象未来"能力与 VLA 的"推理快"特性的根本原因。
6.6 为什么"一模型做所有事"还很少见?算力是主因
既然混合架构在概念上如此诱人,为什么"一个模型同时做理解、视频生成、动作"的系统至今寥寥无几?作者给出的答案直白而现实:算力成本。
"Compute cost is the main reason we have seen only a few 'one-model-does-it-all' systems so far. Training a strong VLM is already expensive; layering large-scale video modeling on top compounds the cost."
这里有两层因果:其一,VLM 本身已昂贵 ------训练一个强 VLM(视觉-语言模型)本身就是巨大的算力投入;其二,叠加视频建模是乘法级放大 ------在 VLM 之上再叠加大规模视频建模(video modeling),成本是复合增长 的,不是简单相加,而是乘法级放大。视频建模需要处理时空维度,token 数量、注意力开销、扩散/自回归的训练步数都远超纯语言或纯图像。因此,作者承认,在短期内 VLA 式与 WAM 式训练的分离 仍然有用------既因为算力限制,也因为我们至今不知道哪些成分对机器人最重要("we still do not know which ingredients matter most for robotics")。在不确定"哪块拼图真正起作用"之前,把所有东西塞进一个模型一起训练,意味着无法做干净的消融、无法归因。作者在文末以一个开放问题收束:"Do you think these two roads genuinely merge, or does one of them win outright?"(你认为这两条路真的会合流,还是其中一条会完胜?)------这是一个他明确标注为开放的问题。
6.7 第四条路线:robotics-first 基础模型(RFFM)
在 VLA、WAM、混合架构三条路之外,作者提出第四种可能 :robotics-first foundation model(RFFM,机器人优先基础模型)。其理念是设计一个围绕机器人挑战 的大型 transformer 架构,把具身性(embodiment)、动作(action)、富接触交互(contact-rich interaction)、具身记忆(embodied memory)作为核心。一个"干净版本"的 RFFM 不会简单地从网络 VLM 或视频生成器起步、之后再"贴上"动作------而是从预训练一开始就把交互与动作作为中心。
关键区别:前三条路线(VLA、WAM、混合)大多采用"先有一个网络基础模型(VLM 或视频生成器),再把动作嫁接上去"的范式。RFFM 反其道而行------它质疑"动作是事后补丁"这一默认假设,主张动作与交互应当是预训练阶段的一等公民。这与作者全文反复强调的"语言是欠指定的目标表达""视频先验弥补物理因果缺失"等论点一脉相承:如果动作与物理交互从一开始就在预训练目标里,也许根本不需要事后用世界模型来"补"物理直觉。
作者点名 GEN-1(来自 Generalist AI)作为他所知最干净的例子:GEN-1 引入了一个在 50 万小时 UMI 风格可穿戴数据 上预训练的大型机器人行为模型。UMI(Universal Manipulation Interface,通用操作接口)是一种数据采集与策略学习框架,用手持式夹爪(含腕部相机与 GoPro+SLAM 定位)让人在无机器人的"野外"环境中直接演示,低成本便携采集双臂、动态、长时程操作数据。其关键贡献是"策略接口"------推理时延迟匹配与相对轨迹动作表示,使策略与硬件解耦、可零样本迁移多平台。GEN-1 正是建立在 UMI 这类大规模人类演示数据之上的"机器人行为基础模型"。但作者也明确指出这一方向的核心瓶颈是数据获取 :除了资金充足的初创公司与大公司,几乎没人能接触到这种规模的人类/机器人数据。在更多大规模开源机器人数据出现之前,这条路主要是在少数有数据垄断的团队手中推进------RFFM 路线目前对社区而言是被阻塞的(blocked)。
6.8 正交方向:潜在世界模型(V-JEPA 2 等)
最后,作者标记了一个值得关注的正交方向 :latent world models(潜在世界模型),代表是 Meta 的 V-JEPA 2。V-JEPA 2 的核心创新是用 100 万+小时互联网视频预训练一个无动作的联合嵌入预测架构 (JEPA),再以少量交互数据后训练出潜在动作条件世界模型 V-JEPA 2-AC,实现理解、预测与规划三合一。其与扩散式视频生成路线的根本区别在于:它直接在视频的预训练潜在空间内学习潜在动力学 ,而非在像素空间生成视频。作者给出的承诺是:潜在世界模型相比基于扩散的视频生成,能带来更便宜的 rollout、更快的推理、更干净的规划信号 。这三点恰好对应了像素级视频 WAM 的三大软肋:像素 rollout 慢且贵(要跑扩散去噪迭代);推理延迟高(不利于实时闭环控制);规划信号被生成质量噪声污染(模型精力被"画得像不像"占用,而非"物理对不对")。潜在世界模型把"想象未来"从像素空间搬到潜在空间,绕开了这些代价。作者指出,这一方向上已出现首批 WAM,如 VLA-JEPA 与 Being-H0.7,并报告了 promising(有前景的)结果。值得注意:作者对这一方向用的是"promising"而非"proven"------这与他在全文一贯的审慎语气一致。两条路是否终将合一?作者给出了他的判断,但把最终结论留到下一章收束。
第七章 总结与展望
本章对整篇博客做收束。作者给出三点明确判断:从自然语言指令到机器人运动的"语义接地鸿沟"至今仍未闭合,现代 VLA 与从视频侧进攻的 WAM 都只是部分缓解而非解决;机器人评测仍是制约整个领域进步的核心瓶颈,需要让"刷分(benchmaxxing)"变得更难的真泛化基准;而下一代机器人基础模型最可能的形态,是 VLA 与 WAM 的混合体,或是从零训练的机器人优先(robotics-first)基础模型。作者同时强调,WAM 作为一个仍处探索期的研究子领域,路线多样性是健康的,并欢迎读者就"两条路是否最终合一"给出不同意见。
7.1 WAM 的定位:从对照范式到核心研究子领域
在正式给出结论之前,作者先把 WAM 放回到整篇博客的脉络中定位。他认为 WAM 将成为机器人基础模型(robot foundation models)的一个核心研究子领域。这个判断的依据在于两条路线在成熟度上的鲜明对比:
- VLA 路线已经收敛到一套大致共享的配方:以预训练 VLM 为骨干,挂一个梯度隔离(gradient-isolated)的流匹配(flow matching)动作专家,并在广覆盖的网页数据与机器人数据混合上做共训练。Pi-0、Pi-0.5、Xiaomi-robotics-0、Being-H0.5 等近期 VLA 基本都遵循这一套。
- WAM 路线则仍处于探索阶段:各家论文在视频骨干(Wan、Cosmos、V-JEPA、Stable Diffusion...)、策略表述方式(逆动力学 / 联合预测 / 潜在计划)、训练配方与评测设置上差异巨大,至今没有形成"公认的基线配方"。
作者对此的态度是审慎乐观的------对一个年轻的研究方向而言,这种研究多样性是健康的,意味着大量新想法仍在源源不断涌现;但他也直言:"现在还没有人真正知道什么配方最好。"这种"承认未知"的语气贯穿全篇,是本章需要忠实保留的不确定性基调。

图 25:VLA 路线、WAM 路线,以及融合两者的第三条通用路线。这张图既是对前文"两条路是否合一"讨论的图示,也预示了本节关于"下一代是混合体"的结论。
7.2 结论一:从指令到运动的鸿沟仍未闭合
作者的第一条、也是最重要的结论:
The gap from instruction to motion is still open.(从指令到运动的鸿沟仍然敞开。)
这条结论需要放在前文的论证链上理解,否则容易被误读为"WAM 失败了"。实际情况要微妙得多。现代 VLA 也没有完全闭合它 :即便是集齐了当代 VLA 三大配方改进(离散动作 token 化、VLM 保留式共训练、宽覆盖的数据混合)的系统,仍会撞上"接地墙"------因为语言是一种欠指定的目标表达方式 ,策略容易过拟合到虚假相关性与数据集偏差上。Pi-0.7 报告的"仅用语言提示"与"用目标图像条件化"之间的性能差距,正是这条论证的现实信号:视觉子目标能改善语言跟随、加快训练收敛,但并不要求"每个强 VLA 都必须挂一个完整的视频生成头"这种更强的主张。WAM 从视频侧进攻,但当前结果也未解决 :DreamZero 在 RoboArena 上 1750 的 Elo 分被作者视为"视频/图像目标先验确能帮助缓解接地问题"的论据,但作者明确指出当前 WAM 的结果并没有表明它已经解决了这条鸿沟------Zhang 等人的匹配扰动对比仅限仿真、未覆盖真机泛化;Veo 3.1 的组合扩展实验也说明通用视频生成模型在"语义组合泛化"上很强,但能否转化为可执行的精确动作仍存疑。结论的准确措辞因此是:鸿沟被两侧分别部分缓解------VLA 侧靠离散化 + 共训练 + 宽数据守住语义知识,WAM 侧靠视频先验补上视觉动态与目标想象------但任何一侧都尚未单独闭合它。这也是后续"混合体"结论的直接动因。
7.3 结论二:机器人评测仍是核心问题
作者的第二条结论:
Robot benchmarking is still a core issue.(机器人评测仍是一个核心问题。)
这条结论之所以在收尾时被特意重申,是因为它直接决定了前一条"鸿沟是否闭合"能否被可信地回答------如果评测本身不可信,那么所有关于 VLA vs. WAM 谁更强的结论都建立在沙土上 。当前评测有两个症结:其一,刷分(benchmaxxing)过易 ------许多现有基准(包括 LIBERO 这类被广泛使用的仿真基准)允许策略在相对受限的任务分布上通过拟合数据集偏差拿到高分,而无需真正的策略泛化;其二,真机评测稀缺且不可比------大多数 WAM 论文仍在 LIBERO 等仿真基准上评测,少数真机评测又因为任务/环境/硬件不统一而难以横向比较。
作者呼吁需要更多类似下面两类基准:RoboArena 是去中心化、众包式真机评测范式,跨分布式评测节点(7 所学术机构、DROID 平台)让评测者自由选择任务与环境,但强制双盲成对策略比较,聚合成对偏好得 Elo 排名------它用成对偏好比较 + Elo 评分替代固定任务成功率,配合 DROID 统一硬件保证可比性;MolmoSpaces(blog-only)与 RoboLab 同样被作者列为"让 benchmaxxing 更难、要求真正策略泛化才能拿分"的基准代表。这类基准的共同特征是"强制泛化"------评测分布与训练分布有意错开,迫使策略展现真正的组合泛化与鲁棒性。作者对评测问题的态度是务实的:在评测本身成熟之前,任何"VLA 已胜"或"WAM 已胜"的断言都为时过早。
7.4 结论三:下一代机器人基础模型很可能是 WAM+VLA 混合
这是本章最具前瞻性的判断:
The likely next generation of robot foundation models will be WAM+VLA hybrids.(下一代机器人基础模型很可能是 WAM 与 VLA 的混合体。)
作者用四个已发表/已发布的工作作为这一判断的现实信号,分别对应混合的四种不同切法。分层式混合:Pi-0.7 的 BAGEL 子目标 ------Pi-0.7 的动作专家以测试时由 BAGEL 世界模型生成的视觉子目标为条件,BAGEL 把多模态理解与生成统一到单一自回归 next-token 框架,充当 Pi-0.7 的子目标世界模型。作者的消融解读很克制:加世界模型子目标确实改善了复杂指代任务的语言跟随,并在某些"打破数据集偏差"的任务上是必要;但作者特别强调这"并不要求每个强 VLA 都需要完整视频生成头"。前瞻规划式混合:Cortex 2.0 的 planning-by-foresight ------Cortex 2.0 把世界模型作为工业部署中的规划/前瞻层,在视觉潜在空间生成候选未来轨迹并按进展/风险/效率打分选优,代表混合方向的工业变体。潜在桥式混合:Being-H0.7 的 latent prior/posterior 桥 ------Being-H0.7 用潜在 prior/posterior 桥把 VLA 的动作专家与 WAM 的未来状态建模在潜在空间缝合,推理时不生成像素视频,对应 Fast-WAM 的加速思路。多塔共享注意力式混合:Motus 与 BagelVLA ------Motus 采用三塔专属权重 + 共享自注意力,BagelVLA 走交错生成路线把子目标图像、语言指令与动作序列统一建模,二者并列为"第三条通用路径"的早期信号。
混合为何至今仍少:算力。 作者在前文已点明,算力成本是至今只有少数"一模型包办一切"系统出现的主要原因 :训练一个强 VLM 本就已昂贵,再叠加大规模视频建模会进一步叠加成本。因此 VLA 式与 WAM 式训练的分裂在近期仍然有用------既因为算力上限,也因为我们至今不知道哪些成分对机器人最重要。这也是他在 §6 末尾留给读者的开放问题:"你认为这两条路真的会合并,还是会有一条彻底胜出?"
7.5 第四条路:从零训练的机器人优先基础模型(RFFM)
除混合路线外,作者还点出第四种可能------机器人优先基础模型(Robotics-First Foundation Model, RFFM) 。其要旨是不从网页 VLM 或视频生成器起步、之后再"贴上"动作,而是从一开始就把交互与动作作为预训练的核心 :围绕机器人学的特有挑战------本体(embodiment)、动作、富接触交互(contact-rich interaction)、具身记忆(embodied memory)------设计大型 Transformer 架构。作者能想到的最干净例子是 Generalist AI 的 GEN-1:在 50 万小时 UMI 式可穿戴数据上预训练的大型机器人行为模型。UMI(Universal Manipulation Interface)的核心创新是用手持式夹爪让人在无机器人的"野外"环境直接演示,低成本采集带精确动作标签的双臂、动态、长时程操作数据,并通过推理时延迟匹配与相对轨迹动作表示实现策略与硬件解耦、零样本多平台迁移。但作者也直言这条路的核心障碍是数据获取 :除了资金充足的初创公司与大公司,几乎没人能接触到这种规模的人类或机器人数据。因此在获得更多开源机器人数据之前,这条研究路径对社区而言目前是被阻断的(blocked)。
与上述路线正交的方向是潜在世界模型,以 V-JEPA 2 为代表。其核心创新是用 100 万+小时互联网视频预训练无动作的联合嵌入预测架构,再以少量交互数据后训练出潜在动作条件世界模型 V-JEPA 2-AC,实现理解、预测与规划三合一。作者认为这类模型承诺比扩散式视频生成更廉价的 rollout、更快的推理、更干净的规划信号,并指出首批此方向的 WAM(如 VLA-JEPA、Being-H0.7)已报告有前景的性能。这与 Being-H0.7 的潜在 prior/posterior 桥一脉相承------潜在空间而非像素空间,很可能是混合路线中"视频侧"的最终形态。
7.6 多样性即健康:WAM 的探索期定位
把上述四条路线(VLA、WAM、混合、RFFM)并置后,作者对 WAM 当下定位的判断变得清晰:WAM 尚未 收敛到 VLA 那种共享配方,各家在视频骨干、策略表述、训练配方、评测设置上差异巨大;这种多样性不是缺陷,而是一个年轻领域健康的标志------意味着既有从像素视频出发的逆动力学路线(UniPi、VPP、mimic-video、DreamVLA),也有不生成像素的潜在路线(V-JEPA 2、Being-H0.7、Fast-WAM),还有把视频与动作塞进单体骨干的联合预测路线(GR-1、GR-2、UWM、Cosmos Policy、DreamZero、LingBot-VA);但也意味着**"什么配方最好"目前仍是开放问题**,任何过早的路线收敛声明都不成熟。读者可以把这一节看作对整篇博客"不确定但审慎乐观"基调的最终收束。
7.7 开放态度:欢迎不同意见
博客以一段罕见的开放邀请收尾,本节应忠实保留其语气:
"That's my current read on where WAMs stand. If you see it differently, or have a strong argument for one of these paths over the others, reach out and let me know --- I'd be very happy to hear it."
作者明确表示这只是他**当前(current)**的判断,而非定论;并主动邀请持有不同视角或对某条路线有强论据的读者联系他交流。这种开放姿态与前文"两条路是否合一"留给读者的开放问题、以及"没人真正知道什么配方最好"的坦率承认一脉相承------对一个仍在快速演变、评测尚未成熟的研究方向,保持判断的可证伪性本身就是一种负责任的态度。
总结
把全文压缩为作者的三点结论,以及他对未来的两点展望:
- 从指令到运动的缝隙仍未闭合。 即便现代 VLA 用上离散动作 token、VLM 保留式协同训练和广数据混合,也没完全跨过这堵"接地墙";WAM 承诺从视频侧进攻这道缝(DreamZero 的 1750 Elo 是正面信号),但现有结果尚不足以证明它已解决。鸿沟被两侧分别部分缓解,但任何一侧都尚未单独闭合它。
- 机器人评测仍是核心问题。 现代 VLA 与 WAM 的基准评测并未解决------需要更多像 RoboArena、RoboLab、MolmoSpaces 这样让"刷分"更难、要求真正策略泛化的基准。在评测成熟之前,任何"VLA 已胜"或"WAM 已胜"的断言都为时过早。
- 下一代机器人基础模型很可能是 WAM + VLA 混合体。 Pi-0.7 的 BAGEL 子目标、Cortex 2.0 的规划式前瞻、Being-H0.7 的潜在 prior/posterior 桥、Motus/BagelVLA 式混合体已在用四种不同切法合并两套思维;算力成本是"一个模型干所有事"早些成真的主因。从零训练的机器人优先基础模型(RFFM,如 GEN-1)是另一个可能赌注,尤其当更多开源机器人数据出现之后;与之正交的潜在世界模型方向(V-JEPA 2,VLA-JEPA / Being-H0.7 已有 promising 结果)承诺更廉价的 rollout 与更干净的规划信号,很可能是混合路线中"视频侧"的最终形态。
延伸阅读:相关经典论文与 WAM 的关系
下面按主题分组列出本博客涉及的关键论文(带链接),每篇给出一句话核心创新与一句话与 WAM 的关系,作为统一的参考文献。完整资料(含作者、会议年份、关键技术)见随附论文手册。可信度标记:web-verified 表示经网络检索核实,blog-only 表示仅见于博客叙述。
一、逆动力学(Inverse Dynamics)范式 WAM
范式特征:先生成/预测未来视频,再用逆动力学模型(IDM)把视觉转移映射为可执行动作。两阶段级联。
- UniPi: Learning Universal Policies via Text-Guided Video Generation(Du et al., NeurIPS 2023,web-verified)------核心创新:首次把序列决策重新表述为文本条件视频生成,用预训练视频扩散合成未来帧再提取动作,统一不同状态/动作空间到图像空间。与 WAM 的关系:逆动力学 WAM 的奠基性先驱,确立"先生成未来视频再推断动作"的两阶段范式。(注:作者粗估其预训练约 167 ZFLOPs,是 WAM 长期不可复现的原因。)
- VPP: Video Prediction Policy(Hu et al., ICML 2025,web-verified)------核心创新:在预训练视频扩散模型内部学习隐式逆动力学模型,以预测的未来表征为条件推断动作。与 WAM 的关系:逆动力学 WAM 代表,CALVIN ABC-D 相对提升 18.6%。
- mimic-video: Video-Action Models for Generalizable Robot Control Beyond VLAs(Pai et al., arXiv 2025,web-verified)------核心创新:提出视频-动作模型(VAM),把流匹配动作解码器作为 IDM 从视频空间动作计划的潜在表征生成低层动作。与 WAM 的关系:逆动力学 WAM 典型实例,相比传统 VLA 样本效率提升 10 倍、收敛速度提升 2 倍。
- DreamVLA: A VLA Model Dreamed with Comprehensive World Knowledge(Zhang et al., NeurIPS 2025,web-verified)------核心创新:通过逆动力学建模建立感知-预测-行动闭环,先预测动态/空间/语义世界知识再条件化推断动作。与 WAM 的关系:属逆动力学 WAM,CALVIN ABC-D 平均长度 4.44。
二、联合预测(Joint Prediction)范式 WAM
范式特征:视频与动作在单一骨干内同时预测,非两阶段级联。视频预测作为动作生成的强正则化器。
- GR-1: Unleashing Large-Scale Video Generative Pre-training for Visual Robot Manipulation(Wu et al., ICLR 2024,web-verified)------核心创新:GPT 式统一 Transformer 端到端同时预测未来图像与动作,把视频预测作为动作生成的强正则化器。与 WAM 的关系:联合预测范式早期代表,CALVIN ABC→D 达 3.06/5 是关键历史信号。
- GR-2: A Generative Video-Language-Action Model with Web-Scale Knowledge(Cheang et al., arXiv 2024,web-verified)------核心创新:在 3800 万互联网视频片段、超 500 亿 token 上预训练捕获世界动力学,再对视频生成与动作预测联合微调。与 WAM 的关系:GR-1 联合预测范式的规模化延伸,100+ 任务平均成功率 97.7%。
- UWM: Unified World Models(Zhu et al., arXiv 2025,web-verified)------核心创新:在单一 Transformer 内为视频与动作分配独立扩散时间步,显式统一逆动力学、联合预测、视频生成等四种模型。与 WAM 的关系:联合预测 WAM 代表性框架,用独立扩散时间步统一 WAM 三大范式。
- Cosmos Policy: Fine-Tuning Video Models for Visuomotor Control and Planning(Kim et al., arXiv 2026,web-verified)------核心创新:把 Cosmos-Predict2 通过单阶段后训练、零架构修改直接改造为机器人策略,动作被编码为合成潜在帧。与 WAM 的关系:典型联合预测 WAM,采用 action-as-image 整合、单体架构,LIBERO 98.5%、RoboCasa 67.1% SOTA。
三、表征-only / 潜在计划(Representation-only / Latent Plan)范式
范式特征:推理时不生成像素视频,把规划载体压缩为潜在计划/表征,再由下游动作模型解码。
- Play-LMP: Learning Latent Plans from Play(Lynch et al., CoRL 2020,web-verified)------核心创新:用人类遥操作"玩耍"数据替代狭窄任务演示规模化技能学习,自监督在潜在空间组织 play 行为。与 WAM 的关系:"潜在计划/潜在动作"整合方式先驱,是表征-only 范式的早期雏形。
- Genie: Generative Interactive Environments(Bruce et al., DeepMind, ICML 2024,web-verified)------核心创新:首个从无标注互联网视频以无监督方式训练的生成式可交互环境(11B 参数),全程不使用真实动作标签。与 WAM 的关系:从无标注视频自监督发现离散潜在动作再驱动世界模型,是"从视频学潜在动作"路线的奠基工作。
- LAPA: Latent Action Pretraining from Videos(Ye et al., ICLR 2025,web-verified)------核心创新:无需机器人动作标签的 VLA 预训练,先用 VQ-VAE 在无标签视频上学帧间离散潜在动作,再预训练"潜在 VLA"。与 WAM 的关系:把 Genie 式"从视频学潜在动作"引入 VLA 训练,是潜在动作整合方式服务于 WAM/VLA 主线的关键桥梁。
- Being-H0.7: A Latent World-Action Model from Egocentric Videos(Luo et al., arXiv 2026,web-verified)------核心创新:在不生成未来视频帧前提下把对未来状态的感知推理引入 VLA 策略,prior/posterior 双分支在潜在推理空间对齐。与 WAM 的关系:典型表征-only/潜在计划式 WAM,推理时不生成像素视频(对应 Fast-WAM 加速思路)。
- DreamDojo: A Generalist Robot World Model from Large-Scale Human Videos(Gao et al., arXiv 2026,web-verified)------核心创新:从 44k 小时自我中心人类视频学通用机器人世界模型,用连续潜在动作作统一代理动作。与 WAM 的关系:潜在动作式 WAM 的大规模视频预训练代表,蒸馏加速到 10.81 FPS 实时。
- V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning(Assran et al., Meta, arXiv 2025,web-verified)------核心创新:用 100 万+小时互联网视频预训练无动作的联合嵌入预测架构,再以少量交互数据后训练出潜在动作条件世界模型 V-JEPA 2-AC。与 WAM 的关系:表征-only/潜在世界模型路线代表,推理时不生成像素视频,在 JEPA 潜在空间预测未来状态并规划动作。
- Fast-WAM: Do World Action Models Need Test-time Future Imagination?(Yuan et al., arXiv 2026,blog-only)------核心创新:针对 WAM 推理时需生成未来视频导致延迟过高,提出推理阶段跳过视频生成、直接以表征输出动作。与 WAM 的关系:表征-only WAM 范式代表,与 Cosmos Policy/DreamZero 等推理时需生成视频的 WAM 形成对比。
- R3M: A Universal Visual Representation for Robot Manipulation(Nair et al., CoRL 2022,web-verified)------核心创新:从大规模人类第一人称视频 Ego4D 预训练的通用视觉表征,作为下游机器人操作的冻结感知模块。与 WAM 的关系:表征-only 路线早期范例,为 WAM 提供可复用感知骨干。
- Voltron: Language-Driven Representation Learning for Robotics(Karamcheti et al., RSS 2023,web-verified)------核心创新:以语言驱动视觉重建学低层模式、以视觉驱动语言生成编码高层语义,兼顾低层与高层信息。与 WAM 的关系:表征-only 范式的语言增强版,为后续 VLA 与 WAM 中语言条件下的表征/动作学习提供借鉴。
四、单体世界-动作模型(Monolithic WAM)与 NVIDIA 路线
范式特征:将预训练视频扩散骨干改造成单体世界-动作模型,单一模型同时预测未来世界状态与机器人动作,强调实时闭环与零样本/跨本体能力。
- DreamZero: World Action Models are Zero-shot Policies(Ye et al., arXiv 2026, NVIDIA,web-verified)------核心创新:把 14B 自回归视频扩散骨干(Wan)改造成单体 WAM,通过模型与系统联合优化实现 7Hz 实时闭环。与 WAM 的关系:WAM 路线在真机上的代表性落地,论证 WAM 可作零样本策略,RoboArena 1750 分。
- LingBot-VA: Causal World Modeling for Robot Control(Li et al., arXiv 2026,web-verified)------核心创新:基于 MoT 的自回归扩散框架同时学帧预测与策略执行,强调视频世界模型通过理解动作与视觉动态间的因果性来"想象近期未来"。与 WAM 的关系:基于 Wan 2.2-5B + MoT + 16k 小时跨本体预训练的 WAM 代表,属联合预测范式。
五、动作整合方式(Action Integration)工具与方法
WAM 三大动作整合方式的基础工具与方法:action-as-image、离散动作 token、扩散动作。
- GENIMA: Generative Image as Action Models(Shridhar et al., CoRL 2024,web-verified)------核心创新:微调 Stable Diffusion 在 RGB 图像上"画出"关节动作目标,把行为克隆转化为图像生成/编辑问题。与 WAM 的关系:"action-as-image"范式代表,与 Cosmos Policy 同属"动作即视觉"思想但用显式目标图像。
- FAST: Efficient Action Tokenization for Vision-Language-Action Models(Pertsch et al., Physical Intelligence, arXiv 2025,web-verified)------核心创新:基于离散余弦变换(DCT)的压缩式动作 token 化方案,取代逐维逐时间步分箱的朴素离散化。与 WAM 的关系:对应"离散动作 token"动作整合方式的基础工具,与 Pi-0 的连续流匹配动作专家形成对比路线。
- Diffusion Policy: Visuomotor Policy Learning via Action Diffusion(Chi et al., arXiv 2023 / IJRR 2025,web-verified)------核心创新:将机器人视觉运动策略建模为条件去噪扩散过程,把动作生成视为对动作分布的分数匹配与迭代去噪。与 WAM 的关系:基于扩散的视觉运动策略奠基工作,奠定 WAM 中"用扩散模型生成动作"技术底座。
六、视频/世界模型骨干(Video/World Model Backbones)
WAM 所复用的开放视频/世界模型生成骨干谱系,为 WAM 提供未来状态/视频生成能力。
- Wan: Open and Advanced Large-Scale Video Generative Models(Wan Team et al., arXiv 2025,web-verified)------核心创新:基于 DiT 范式的全面开放视频基础模型套件(1.3B 与 14B),验证视频生成 scaling law,全程开源。与 WAM 的关系:DreamZero 把 Wan 14B 改造成单体 WAM,LingBot-VA 基于 Wan 2.2-5B,是现代 WAM 复用的开放视频骨干。
- Cosmos World Foundation Model Platform for Physical AI(Agarwal et al., NVIDIA, arXiv 2025,web-verified)------核心创新:主张 Physical AI 需"策略模型 + 世界模型"双数字孪生,开放世界基础模型可微调为下游定制化世界模型。与 WAM 的关系:NVIDIA 官方开放世界模型骨干,Cosmos Policy 把动作编码为合成潜在视频帧即把 Cosmos 与动作整合成 WAM。
- Imagen Video: High Definition Video Generation with Diffusion Models(Ho et al., arXiv 2022,web-verified)------核心创新:基于级联视频扩散模型的文本条件高清视频生成系统。与 WAM 的关系:视频扩散模型代表性骨干,与 Wan/Cosmos 同属 WAM 所复用的开放视频/世界模型骨干谱系;UniPi 当年即基于此类 CNN 栈从头训练。
七、架构基础(Architecture Foundations)
WAM 单体/混合架构的源头训练范式与统一骨干。
- Transfusion: Predict the Next Token and Diffuse Images with One Multi-Modal Model(Zhou et al., Meta, ICLR 2025,web-verified)------核心创新:在单一 Transformer 上把语言建模的下一 token 交叉熵与图像扩散损失混合训练,建立跨模态 scaling law。与 WAM 的关系:WAM 中"MoT + 联合预测"范式的源头,让单一骨干既能用 token 预测处理离散动作/文本、又能用扩散处理连续视觉/状态。
- BAGEL: Emerging Properties in Unified Multimodal Pretraining(Deng et al., ByteDance Seed, arXiv 2025,partial)------核心创新:统一多模态预训练框架,把多模态理解与生成统一到单一模型并激发"涌现属性"。与 WAM 的关系:在博客中作为 Pi-0.7 的子目标世界模型骨干,也是 BagelVLA 交错生成范式的骨干来源。
八、训练技巧(Training Techniques)
WAM/单体架构训练稳定性的关键支撑技术。
- Knowledge Insulating VLA: Train Fast, Run Fast, Generalize Better(Driess et al., Physical Intelligence, NeurIPS 2025,web-verified)------核心创新:系统研究连续扩散/流匹配动作专家对预训练 VLM 语义知识的影响,提出"知识隔离"------训练时隔离流匹配动作专家梯度保护 VLM 骨干。与 WAM 的关系:直接为"VLM 骨干 + 流匹配动作专家"这一 WAM/单体架构(如 DreamZero、LingBot-VA、Being-H0.7)提供训练技巧,当把视频世界模型骨干改造为 WAM 时梯度隔离同样可保护骨干。
- VLM2VLA: Actions as Language (Fine-Tuning VLMs into VLAs Without Catastrophic Forgetting)------核心创新:把 VLM 到 VLA 的转换直接定义为一种灾难性遗忘,用"把动作当作一种新语言"的离散动作 token 化方式让 VLM 留在离散 next-token 预测空间。与 WAM 的关系:从 VLA 一侧诊断出 grounding 墙的病根,而 WAM 从另一侧换一个为"视觉变化"而生的骨干来绕开这一张力。
九、VLA 主线(Vision-Language-Action Mainline)
WAM 的对照与融合对象。VLA 主线提供"VLM 骨干 + 动作专家"基础架构范式,WAM 在其上引入视频世界模型先验。
- Pi-0: A Vision-Language-Action Flow Model for General Robot Control(Black et al., Physical Intelligence, arXiv 2024,web-verified)------核心创新:在预训练 VLM 之上构建流匹配动作生成架构的通用机器人策略基础模型,在多类灵巧机器人平台异构数据上统一训练。与 WAM 的关系:为后续 WAM 提供"VLM 骨干 + 动作专家"基础架构范式。
- Pi-0.5: a Vision-Language-Action Model with Open-World Generalization(Physical Intelligence et al., arXiv 2025,web-verified)------核心创新:在 Pi-0 基础上引入异构任务协同训练与混合多模态样本,首次让端到端系统在全新家庭环境中完成长时程灵巧操作。与 WAM 的关系:为 WAM 类工作的大规模人类+机器人混合数据训练范式提供参考;RoboArena 1622 分是 VLA 侧关键基线。
- Pi-0.7: a Steerable Model with Emergent Capabilities(Physical Intelligence, April 2026,blog-only)------核心创新:强调"可操控性(steerability)"与涌现能力,作为 VLA 主线在 Pi-0.5 之后的进一步迭代。与 WAM 的关系:在 VLA 栈内嵌入世界模型式视觉子目标,是分层式混合的代表;其语言-only 与目标图像条件的 gap 支撑了 grounding 墙论点。
- GR00T N1(NVIDIA,web-verified)与 Xiaomi-robotics-0(小米,web-verified)------核心创新:分别沿用 VLM 骨干 + 动作专家配方的开源人形机器人通用基础模型与强调实时执行的 VLA(CALVIN ABC→D SOTA)。与 WAM 的关系:作为 VLA 侧的 NVIDIA 与工业代表,是本文 VLA 对照路线的公开参照。
十、VLA + WAM 混合收敛(Hybrid Convergence)
被博客点名代表 VLA 与 WAM 范式合流趋势的工作,体现"第三条通用路径"信号。
- Motus: A Unified Latent Action World Model(Bi et al., arXiv 2025,blog-only)------核心创新:混合(单体+专家)架构,把视频建模与世界/动作生成交由独立 transformer 塔处理,通过共享自注意力统一"理解/VLM---视频生成---动作专家"三大能力。与 WAM 的关系:VLA+WAM 混合收敛方向代表之一,被视为"第三条通用路径"的早期信号。
- BagelVLA: Enhancing Long-Horizon Manipulation via Interleaved Vision-Language-Action Generation(Hu et al., arXiv 2026,blog-only)------核心创新:通过交错视觉-语言-动作生成增强长时程机器人操作能力,把子目标图像、语言指令与动作序列以交错序列统一建模。与 WAM 的关系:把 WAM 风格未来视觉预测嵌入 VLA 交错生成流程,是介于联合预测与分层之间的混合范式。
- Cortex 2.0: Grounding World Models in Real-World Industrial Deployment(Aida et al., Sereact, arXiv 2026,blog-only)------核心创新:把世界模型作为工业部署中的规划/前瞻层,在视觉潜在空间生成候选未来轨迹并按进展/风险/效率打分选优。与 WAM 的关系:代表混合方向的工业变体,体现"WAM 作规划/决策层而非单纯策略"的价值。
十一、数据基础设施(Data Infrastructure)
WAM 与现代 VLA 所依赖的现实世界"动作+视频"数据采集与接口范式。
- UMI: Universal Manipulation Interface(Chi et al., RSS 2024,web-verified)------核心创新:用手持式夹爪让人在无机器人的"野外"环境直接演示,低成本采集带精确动作标签的双臂、动态、长时程操作数据,并通过推理时延迟匹配与相对轨迹动作表示实现策略与硬件解耦、零样本多平台迁移。与 WAM 的关系:WAM 与现代 VLA 所依赖的现实世界"动作+视频"数据基础设施;GEN-1 这类 RFFM 所需的大规模带动作标签人类演示视频正来自此类数据采集范式。
十二、评测基准(Evaluation Benchmarks)
WAM 论文所用的仿真与真机评测基准。
- RoboArena: Distributed Real-World Evaluation of Generalist Robot Policies(Atreya et al., CoRL 2025,web-verified)------核心创新:去中心化、众包式真机评测范式,用成对偏好比较 + Elo 评分替代固定任务成功率,配合 DROID 统一硬件保证可比性。与 WAM 的关系:博客中少数公开开放式真机评测基准,用于衡量 DreamZero 等 WAM 相对 Pi-0 系列 VLA 的真实世界泛化能力(2026-04 快照 DreamZero 1750 > Pi-0.5 1622 > Pi-FAST 1592 > Pi-0 1475)。
- LIBERO: Benchmarking Knowledge Transfer for Lifelong Robot Learning(Liu et al., NeurIPS 2023,web-verified)------核心创新:针对终身机器人操作学习提出基准,强调动作/行为这类程序性知识迁移,提供可扩展程序化任务生成流水线与 4 个任务套件共 130 个任务。与 WAM 的关系:博客中最常用仿真评测基准之一,LIBERO-Plus 在匹配扰动下对比 LingBot-VA、Cosmos Policy、Pi-0.5 是 WAM 鲁棒性对比关键场景。
- CALVIN: A Benchmark for Language-Conditioned Policy Learning for Long-Horizon Robot Manipulation Tasks(Mees et al., RA-L 2022,web-verified)------核心创新:开源仿真基准用于长时序、语言条件机器人操作任务,在序列长度、动作空间与语言复杂度上均超既有视觉-语言数据集。与 WAM 的关系:早期联合预测型 WAM(GR-1)的关键仿真证据,GR-1 在 ABC→D 达 3.06/5 首次表明预测未来视觉状态能塑造更好策略表征。
十三、综述(Survey)
- World Model for Robot Learning: A Comprehensive Survey(Hou et al., 2026,web-verified)------核心创新:从机器人学习视角对世界模型做系统性综述,统一梳理世界模型如何与策略耦合、如何作为学习型仿真器服务于强化学习与评测。与 WAM 的关系:博客中多次引用为 WAM 与世界模型领域权威综述,为博客中 WAM 分类法提供更广阔文献背景。