论文 :MorphMimic: Morphology-Conditioned World Model and Policy Sharing Across Humanoids(Caltech / Georgia Tech, 2026年10月)
一、要解决的问题
每换一台人形机器人就要重新训练一个全身动作跟踪器(whole-body motion tracker),成本很高。MorphMimic 想做的是:只训练一个可微世界模型加一个跟踪策略,把"本体(embodiment)"作为输入,同时服务 Unitree G1、AgiBot X2 Ultra、Booster T2 三台机器人。
难点有两个:
- 不同机器人的关节轴、符号约定、零位姿态、连杆长度、PD 增益、力矩上限都不一样,同一个动作在不同机身上效果不同。
- 它的基础是 SuperMimic,策略梯度要穿过学到的动力学模型反传。共享的世界模型因此必须对每台机器人都预测得足够准,否则梯度会被带偏。这比纯 model-free 的跨本体迁移更难。
二、整体框架
如图所示:所有类人机器人共用同一个世界模型和策略。全动作潜表征(full-motion latents)在不同机器人之间实现对齐,并通过一个"五点编码器"(five-point encoder)将其映射至统一的解码器中。机器人的形态(morphology)作为条件输入,作用于世界模型和解码器;虚线箭头表示"想象"出的动作序列(imagined rollouts)。图中展示的机器人均为模拟器渲染结果,且统一了比例;潜表征单元仅为示意。

MorphMimic 沿用 SuperMimic 的三步交替循环:
仿真采数据 → 拟合世界模型 → 在想象 rollout 中更新策略
在这个循环上做了"多本体化"改造,共有四个核心组件。
1. 统一机器人表示(Common Robot Representation)
规范关节映射(Canonical joints)
- 按运动学功能把各机器人的关节映射到统一的槽位:q^c^j = ε*{b,j}·(q^b*^{p_b(j)} − δ{b,j})。
- 其中 p_b 是排列,ε 是符号(±1),δ 是零位偏移。速度只用排列和符号,不加偏移。
- 这一步消除了命名、正负号、零位姿态上的差异,剩下的运动学差异交给网络去学。
动作归一化
- 目标位置 q^target^ = q^default^ + ε·α·a,其中 α*{b,j} = κ* a·τ^max^{b,j}/k{p,b,j}。
- 这样设计的结果是 k_p·α = κ_a·τ^max^,也就是说单位动作在任何机器人上都对应"力矩上限的固定比例"。动作在物理意义上跨机器人对齐,这一点设计得很巧。
跟踪刚体槽位
- 统一为 N_b 个:骨盆、每条腿 3 个、躯干、每条手臂 3 个。骨盆和躯干分别在 0 号和 7 号槽位。
位置无关的目标(position-free goals)
- 锚点位置放在"第一帧参考骨盆朝向坐标系"中表达,朝向则相对于机器人当前躯干表达。
- 策略输入只需要关节编码器和 IMU,不需要动捕或全局定位,部署很直接。
形态描述子 m_b
- m_b = S(log α, log k_p, log k_d, log τ\^max\^, η_b),其中 η 是几何与质量信息(大腿、小腿、上臂、前臂长度,髋宽,躯干高度,总质量,腿和臂子树的质量)。
- S 把特征缩放到 −1, 1,三台机器人之间取值相同的特征映射为 0。
2. 共享世界模型(Shared World Model)
- 一个动力学网络,在 F_t(骨盆航向系)中预测残差:s*{t+1} = Φ⁻¹(u_t + σ*Δ ⊙ f_ω(x_t))。
- 输入里拼接了 m_b 和上下文 ξ_b(摩擦、编码器偏置、质心偏移)。
- 输出层零初始化,所以初始模型预测"状态不变"。σ_Δ 取 warm-up 阶段一步变化量的 RMS,用于平衡各维度尺度。
- 终止头:建模成锚点高度误差和倾斜误差的单调 hazard,即 d̂ = 1 − (1 − p_z)(1 − p_u),阈值与仿真器一致。这是一个带结构先验的终止预测。
- 归一化统计量、replay buffer 都按机器人分开,只有网络权重共享。
3. 形态条件策略 + 潜命令对齐(核心创新之一)
如图所示采用共享策略及指令接口。针对特定机器人设计的归一化模块(normalizers)将数据输入至共享的动作编码器;该编码器输出的32维潜表征,连同本体感知(proprioception)和形态信息,共同输入至共享解码器中。此外,形态信息还通过FiLM机制对解码器的特征进行调节。各机器人对应帧的动作潜表征会向其均值对齐,而"五点编码器"则负责将特定机器人的动作潜表征与该均值进行匹配。图中的潜表征条仅为示意。

结构
- z^b^ = E(N_g(g^b^)),a = D(z^b^, N_o(o^b^), m_b),其中 z 是 32 维、经 tanh 约束的潜在命令。
- 编码器 E 只看参考目标,不看形态;形态信息只进入解码器 D。这样把"要做什么动作"和"在这台身体上怎么执行"分开了,思路上借鉴了 X-WBC。
FiLM 调制
- 解码器每层:h̃ = h ⊙ (1 + Γm + μ) + Bm + ν。
- 参数零初始化,所以训练从"纯拼接条件"平滑过渡到"拼接 + FiLM"。
跨机器人对齐损失
- 同一段人体动作被重定向到三台机器人后,有逐帧对应关系(都来自 BONES-SEED,G1 用官方重定向结果,X2/T2 用 NVIDIA SOMA Retargeter 生成)。
- 对齐损失为:L_align = (1/N_a) Σi ‖z_i^b ^− sg(z̄i)‖²,其中 z̄ 是三台机器人在该帧上潜变量的均值。用 stop-gradient,所以每台机器人只把自己的潜变量拉向均值。
- 总损失:L_motion = −Ĵb + βa·L_align,其中 β_a = 0.05。
两个 critic 训练技巧
- critic 额外接收参考锚点在机器人锚点坐标系下的位置(特权信息)。原因是奖励依赖机器人与参考之间的位移,但这些信息不进入策略输入。
- 时间截断(time-out)时仍然做 bootstrap。
4. 五点稀疏命令接口(Five-point Interface)
如图所示在执行某项参考动作(包括行走阶段------左图;挥手阶段------右图)时,利用共享策略进行的"五点追踪"效果。球体标记当前骨盆、脚踝和手腕的目标位置;实线曲线展示未来十帧的预测轨迹;逐渐淡去的轨迹则表示过去的目标位置(仅作展示用)。

- 第二个编码器 E_kp 接收骨盆、双踝、双腕共 5 个点的位置和 6D 朝向(K = 10 帧),再加上点掩码和帧掩码。
- 训练目标是让 E_kp 输出的潜变量去匹配该机器人完整动作编码器给出的 z:L_kp = −Ĵ^kp^ + β_kp·‖z^kp^ − sg(z^motion^)‖²。
- 这一步只更新 E_kp,解码器、世界模型、critic 全部冻结。因此五点接口复用的是同一个形态条件解码器,新增接口不会破坏原有策略。
- 训练时对 actor 的目标加位置和朝向抖动(±0.05 m 水平、±0.01 m 竖直、±0.1/±0.2 rad),提高对遥操作噪声的鲁棒性。奖励、终止和 critic 仍使用干净的参考。
- 50% 的采集环境由五点编码器驱动,所以五点接口也会影响世界模型看到的数据分布。
5. 多机器人训练
- 每台机器人一个进程,各自有仿真器、replay buffer 和采样器。
- 共享参数的梯度按 ∇ = (1/|B|)·Σ*b ∇*b 等权平均,再做梯度裁剪和 Adam 更新。
- 每轮迭代的顺序:采数据 → 拟合世界模型 → 更新动作编码器和解码器 → 拟合动作 critic → 更新五点编码器 → 拟合五点 critic。
如图所示在G1、X2 Ultra和T2机器人上,使用同一套共享的全动作策略,分别执行立定跳远、慢跑和舞蹈(旋转动作)任务。每一组序列从左至右按时间顺序展示了模拟器中的五个姿态;为便于展示,已对标题及水平间距进行了调整。
三、实验结论
| 结论 | 数据 |
|---|---|
| 统一模型约等于专用模型 | 4 种共享配置(专用 / 共享 WM / 共享策略 / 全共享)在 6 个"机器人 × 接口"组合上,与单机器人专用模型的平均回报差距都在 0.02 以内,最大是 G1 五点接口差 0.018 |
| 存活率 | 全共享模型在 X2、T2 上约 99.9%,X2 两种接口都略高于专用模型 |
| 训练成本 | 全共享 16.3 GPU·h,三个专用模型合计 13.9 GPU·h,只多约 17% |
| 跨形态训练是必要的 | 只在 G1 上训练的策略直接迁移到 T2,存活率不到 2.1%;迁移到 X2,用 G1 参数时有 87.7%,换用目标机器人参数只有 7.7% |
| 五点接口的代价 | 平均回报下降 0.04--0.07,存活率基本不变 |
| 真机 | 同一套 ONNX 权重直接部署到 G1,完成跳舞、行走、PICO 遥操作 |
一个有意思的细节:T2 迁移失败的主要原因之一是它的 IMU 装在躯干上,G1 策略没见过这种传感坐标系。把 T2 仿真中的 IMU 挪到腰部 yaw 连杆后,存活率回升到 81--83%。这说明传感配置也是"形态"的一部分。
四、评价
优点
- 工程上很扎实:规范关节映射、按力矩比例归一化的动作、位置无关目标,这几样组合起来,让异构机器人在输入和输出两端都物理对齐。新机器人只需要提供关节映射、描述子和重定向数据。
- 把世界模型也做成了共享的。之前的跨本体工作(URMA、XHugWBC、Any2Any、X-WBC)大多基于 model-free RL。MorphMimic 证明了一个可微动力学模型能同时足够准确地描述多台人形机器人,并支撑一阶策略梯度。
- "语义"和"执行"解耦:编码器不依赖形态,再加上对齐损失,让潜空间变成跨机器人通用的"动作语言"。稀疏接口只需要学会映射到这个潜空间。这个架构容易扩展到更多接口(比如 VR、文本、视频)。
- ablation 很干净:专用 / 共享 WM / 共享策略 / 全共享四种配置,都在 12.9 万条共同片段上评估。
局限与可质疑之处
- 只有 3 台机器人,并且都是"29 自由度、体型相近"的人形 (重 33--43 kg,腿长 0.3 m 量级)。描述子在 3 个样本上做 −1, 1 缩放,泛化到未见形态基本没有依据。作者也承认,给 G1 策略换上目标机器人的描述子属于分布外,没有测试。所以这篇本质上是多机器人联合训练 ,不是零样本跨形态泛化。
- 依赖逐帧对应的重定向数据:对齐损失需要同一源动作在每台机器人上的重定向结果,新机器人仍然需要一套重定向流程(SOMA)。
- 真机只验证了 G1,而 G1 恰好是数据最"原生"的那台(用的是官方重定向)。X2、T2 的 sim-to-real 留作后续工作。
- 增量性:方法高度依赖 SuperMimic,损失函数、观测、奖励、网络结构都直接引用其附录。MorphMimic 的新增部分主要是规范表示、m_b 条件化加 FiLM、潜变量对齐、五点编码器的蒸馏式训练。
- 对齐损失权重较小(0.05),文中没有给出去掉对齐损失的 ablation。潜在命令对齐对最终性能到底贡献多少,并不清楚。
- 统一模型训练成本略高,规模扩大时梯度等权平均是否会出现机器人之间的梯度冲突,没有讨论。
总结:MorphMimic 用"规范化关节和动作空间 + 物理形态描述子条件化(拼接 + FiLM)+ 跨机器人潜在命令对齐",把 SuperMimic 的世界模型 + 一阶策略优化框架扩展到多台人形机器人共享一套权重。在三台机器人上做到了与专用模型几乎相同的性能,但还谈不上对未见形态的泛化。