LeCun团队世界模型JEPA首登无人机:9K参数模型,零样本Sim-to-Real飞入100Hz闭环

论文:SkyJEPA: Learning Long-Horizon World Models for Zero-Shot Sim-to-Real Control of Quadrotors(arXiv:2606.23444)作者:Pratyaksh Rao · Wancong Zhang · Randall Balestriero · Yann LeCun · Giuseppe Loianno(UC Berkeley / NYU / Brown)

正文只展示关键公式,全部公式见附录:公式与符号速查

引子:一个反常的对比

2026 年 6 月,一篇作者名单里列着 Yann LeCun 与无人机控制学者 Giuseppe Loianno 的论文,把一个仅有 9K 参数的 JEPA 式 潜空间动力学模型装进了四旋翼 100Hz 的飞行控制回路。JEPA(联合嵌入预测架构)的核心主张是不重建观测、只在抽象表征空间预测未来, 打个比方:自回归像先画出下一帧画面再决定怎么动,JEPA 像不画出画面、只在脑子里推演下一步。它的开环 60 步预测位置误差是 1.43m ------对比自回归基线的 8.80m;姿态误差 4.71°------对比 53.4°。而在此之前,这架 1.3kg 的无人机从未被这个模型"见过":训练数据全部来自 500 个域随机化仿真域的 20,000 条轨迹,实机部署零微调、零系统辨识。

这个反常对比正是全文的线索:为什么更小的模型反而在最难的指标(长程、递归、物理可解释)上碾压更大的模型?

论文先用四重要求框定问题:长程预测、物理可解释、实时闭环、零样本泛化(图 1)。这四个要求分别落在表征与解码结构、算力预算和数据管线上。本文的五个论点中,论点一先诊断自回归范式的结构性缺陷,论点二到五则分别回应这四重要求。

图 1|四旋翼世界模型的四重要求。图源:论文 Fig. 1。

方法上的完整路线是:仿真数据合成 → JEPA 潜动力学 → 物理探针解码 → MPPI 采样控制(图 2)。四个环节分别对应论点四、论点二、论点三、论点五。

图 2|方法总览:四阶段管线。图源:论文 Fig. 2。

论点一:自回归递归是结构性死局,正则救不了

模型每一步都被喂进被累计误差污染的状态。四旋翼对姿态误差高度敏感------姿态差一点,推力方向就偏一点------小误差被递归反复放大。物理启发正则、残差结构、在线微调只能改善局部精度,动不了这个递归机制本身。论文给物理正则基线的消融恰好证明这一点:正则只带来 19%(位置)/8%(姿态)的边际改善。

**小结:误差累积是结构问题,不是拟合问题。**任何仍在物理状态空间做自回归预测的模型,都在重复同一个错误。

论点二:潜空间让预测"想得远"

递归误差是否被几何抑制?用两个新指标检验。论文定义误差累积比 CR(k步开环误差 ÷ teacher-forced 误差,D_s为状态维度,式 28--29)与误差增长率 ER(式 30)。CR=2 意味着"蒙眼前滚"的误差是"每步偷看答案"的两倍,多出来的那一倍就是递归欠的债:

图 6|CR 与 ER:预测基线在 k≈12 处穿过 CR=1、k=60 飙至 2.4;SkyJEPA 全程贴近 1(约 1.4)。图源:论文 Fig. 6。

为什么会出现这种差异?论文用时间直线化给出几何解释。对潜轨迹相邻速度求平均余弦相似度(1 为直线,负值为方向反转):预测基线约 −0.4 ,重建式潜模型约 0.95,JEPA 约 0.75。"时间平滑"是潜空间学习的涌现性质------递归前滚像沿直线滑行,小误差不易把轨迹甩偏。

图 7|时间直线化:示例轨迹、潜空间 PCA 投影与直线化分数分布。图源:论文 Fig. 7。

**小结:把递归从物理空间挪到表征空间,误差的增长律被改写。**换范式是第一步收益,物理正则无法替代。

论点三:物理骨架让预测"说人话"------全场最大的杠杆

再由可微分运动学积分(DKI) 传播状态(△t=0.05s为离散时间步长,式 16):位置/速度显式欧拉,姿态走SO(3)指数映射,旋转矩阵永远留在流形上,不存在欧拉角积分的姿态漂移。探针用整条前滚监督(式 17)。

图 3|两阶段训练:JEPA 潜动力学(左),冻结表征上训练物理探针(右)。图源:论文 Fig. 3。

证据:消融表 III 是全文最有信息量的表格。换探针带来的 4--8.5 倍精度跃升,远大于换学习范式的 1.2--1.3 倍:

方法 位置 RMSE m ↓ 姿态误差 ° ↓ 位置相对基线
Predictive(自回归基线) 8.80 53.4 1.0×
Predictive + Physics Reg. 7.12 49.1 1.24×
Reconstruction + Prober 6.82 45.2 1.29×
Reconstruction + PI Prober 1.53 5.28 5.75×
Ours + Prober(JEPA + 普通探针) 5.56 40.20 1.58×
Ours + PI Prober(完整方法) 1.43 4.71 6.15×

表 III|开环 60 步预测消融。三组对照分别隔离:学习范式、预测目标、解码结构。

三组对比三个结论:(1) 潜空间胜过自回归------两个潜模型即便用普通探针也已反超;(2) JEPA 胜过重建------只要求"可预测"的表征更聚焦动力学因果链(5.56/6.82m);(3) 物理探针是最大杠杆------给重建模型换 PI Prober 也有 4.5×/8.6× 提升,方差同步缩水一个数量级。机理:归纳偏置兑换样本复杂度------积分骨架零参数、永不过拟合,网络只需拟合名义模型与真值之间的残差(阻力、电机延迟),问题的有效维度被砍掉大半。

图 8|开环前滚保真度:位置/速度/姿态 RMSE 随前滚长度的变化。图源:论文 Fig. 8。

姿态误差用SO(3)相对旋转的轴角度量(式 31--34),对输入历史叠加高斯噪声的鲁棒性测试显示:零噪声时本方法中位状态 RMSE 已低约 55%,最高噪声级仍有约 10% 改善------潜表征 + 物理积分对感知扰动是"低通"的(图 9)。

图 9|观测噪声鲁棒性:不同噪声水平下的姿态 RMSE。图源:论文 Fig. 9。

小结:结构先验的价值不在正则化,而在把学习问题的有效维度砍掉一个数量级。

论点四:数据不是采集来的,是被设计出来的

剂量-反应关系清晰:1k 样本 TDQ≈0.01、RMSE≈5.4;100k → 0.25/1.9;1.5M → 0.94/1.4,后段饱和------数据已铺满动力学流形,瓶颈转移到模型容量。TDQ 可复用于任何"仿真数据该采多少、怎么采"的问题。

图 12|数据规模消融:TDQ 与预测误差的剂量-反应曲线。图源:论文 Fig. 12。

**小结:"零样本"的前提是数据管线先把真实世界分布的近似吃进去。**域随机化范围的选取是先验注入------仿真与真实分布的对齐质量,决定了"零样本"能覆盖多大的平台漂移。

论点五:从预测到操纵杆,只差一个"宽容"的优化器

图 5|Jetson Orin NX 端到端推理时间随前滚长度 U 与采样数 S 的增长,贴近 100Hz(10ms)实时预算线。图源:论文 Fig. 5。

最硬核的检验:零样本实飞。平台是 1.3kg、推重比 4:1 的四旋翼,机载 Jetson Orin NX + Pixracer Pro(PX4/ROS2),GPS 状态估计(图 4);场景包括名义跟踪、载荷变化与换桨(图 4 的三种设置)。

图 4|实机评估平台与三种场景:名义跟踪、载荷运输、换桨。图源:论文 Fig. 4。

控制器用到的动力学模型从未见过真实数据,直接放入室外 60×70m GPS 空域闭环飞行,五条轨迹覆盖 2.45--7.20m/s 与 1.4--12.5m/s²:

轨迹 m/s Ours 位置 RMSE m MPPI (Pred.+Phy.) MPPI (Pred.) Ours 姿态 ° MPPI (Pred.)
Circle 2.45 0.24 0.36 0.39 7.87 11.95
Oval 4.50 0.33 0.44 0.48 9.11 16.53
Figure-8 5.20 0.35 0.47 0.51 9.25 20.20
Fish 5.70 0.40 0.54 0.59 10.78 22.78
Lemniscate 7.20 0.45 0.56 0.61 19.43 29.16

表 IV|实机零样本轨迹跟踪(各 5 次均值;完整数据见论文或下方图片)。位置改善 26--38%,姿态改善 33--54%。

优势随轨迹变快不缩水;方差同步大幅下降------飞得准,也飞得稳。但批判性阅读:双纽线上本方法绝对姿态误差仍有 19.43°,在 12.5m/s² 机动下可理解为姿态带宽与执行器动态的代价,论文未给机理分析;位置与姿态误差同轨迹最大化及其非单调关系,应视为开放问题而非已解之谜。

图 10|实机零样本轨迹跟踪:执行轨迹叠加参考,颜色为跟踪误差。图源:论文 Fig. 10。

更苛刻的检验:平台变化零重训练。换桨与挂载 300g 载荷(刻意不在数据采集覆盖内):位置误差约 1.2--1.35× 优于基线,姿态约 1.4×。潜动力学学到的是一族系统的紧凑演化规律,而非某个标称平台的记忆,退化更"优雅"。

图 11|平台变化下的实机跟踪:载荷运输(左)与换桨(右),不重新训练。图源:论文 Fig. 11。

小结:MPPI 的采样-加权机制天然吸收模型误差,是把"想得远且说人话"的预测变成操纵杆的正确接口。

外部审视:两个未被论文回答的问题

论文留下两个未回答的问题。其一是功劳归属 :MPPI 的 softmax 加权是对模型误差的蒙特卡洛平滑,与要求精确雅可比的梯度 MPC 有根本差异,表 III--V 的领先究竟多少来自潜模型本身、多少来自 MPPI 对误差的吸收?固定潜模型、分别接入两种控制器即可裁决,论文未做。其二是探针的定位 :式 (14)--(16) 保证的不是残差更小,而是传播的几何正确性 :姿态永在流形上,小姿态误差不会被扭成全局漂移(自回归基线姿态爆炸 53.4° 的可能来源)。反事实------给自回归基线换上同样的 SO(3) 骨架,差距还剩多少------同样未做。但不能因此否定探针:关键在于表征负担 ------探针结构下潜编码器只需表征残余气动状态,端到端残差动力学则要求编码器承载完整状态转移的全部因果变量。流形约束积分器的真正作用,是向上游重塑了表征学习的目标。这仍是机理假设,裁决需要"自回归 + SO(3) 骨架"对照组。

结语

SkyJEPA 的价值不在任何一个部件,而在四个接口都设计对了 ------潜空间预测让递归稳定,探针让预测可读,MPPI 对误差宽容,域随机化让分布覆盖可预期。这些接口也是系统最经不起替换的地方:换成梯度 MPC,就要重测优化器对模型误差的吸收能力;迁到固定翼或欠驱动机械臂,探针的几何骨架要重新设计;接入视觉输入,编码器所依赖的全状态输入假设不再直接成立,需要从视觉估计状态或改为视觉条件化。论文没做这些替换实验,所以本文能论证的只是这套组合在四旋翼上成立,而不是每个部件都不可替代------"外部审视"里的两个未解问题,本质上都是替换实验缺失的问题。

对做机器人学习的人,能带走的是三条工程判断:递归预测应当放在抽象表征空间,让它试图预测的对象留在物理空间;解码器里能写成积分的部分,就不必交给网络;数据管线的覆盖度值得一个像 TDQ 这样可优化的标量。至于"世界模型"这个更大的命题,这篇论文给出的只是一个平台的证据,而且恰好是那种动力学结构规整、全状态可以直接测得的平台,不是最一般的证据。它把门打开了,但门后还有很长的走廊。

附录:公式与符号速查

如有偏差,以论文最新为准

论文链接:https://arxiv.org/html/2606.23444v2

相关推荐
QXWZ_IA1 小时前
具身智能巡检和无人机巡检怎么选?
人工智能·安全·无人机
北京迅为4 小时前
案例分享 | RK182X算力卡:多路视频VLM监控,四路画面AI同时看懂,一句人话说清现场
linux·人工智能·嵌入式·rk3588·算力卡·rk182x
XLYcmy5 小时前
ASR识别任务两篇论文阅读分析与系统方案技术报告 上
论文阅读·ai·gpu·asr·论文分享·speechbrain·wespeaker
Zucker n1 天前
文献发现、课题组织与证据可追溯的论文阅读。
论文阅读·windows·ubuntu
Zwawa1 天前
嵌入式OLED表驱动菜单:用一张表、一个栈和一个窗口重写表驱动菜单
c语言·单片机·嵌入式
西柚小萌新1 天前
【论文阅读】--可信LLM智能体的威胁与对策 综述
论文阅读
Rocky Ding*1 天前
【三年面试五年模拟】2026-11-05_月之暗面大模型算法岗一面、二面面经全解析
论文阅读·人工智能·深度学习·机器学习·aigc·强化学习·ai-native
Eyfcom1 天前
〖物联网终端实战 05〗无人机与无人车协同:最后一公里的空地一体化调度协议
无人机·物联网终端实战·快递软件
Zwawa2 天前
C语言函数指针与宏实战:从回调、表驱动菜单到X-Macro,讲透嵌入式代码解耦
c语言·单片机·嵌入式