从"会动"到"会学":移动机器人学习型运动规划与控制全景综述
具身智能(Embodied AI)的终极目标是让机器人像人一样,在与环境的持续交互中学习、进化。而运动规划与控制,正是机器人"如何交互"的底层答案。本文基于一篇系统综述,从系统架构这一全新视角,梳理学习型运动规划与控制的研究版图,并聚焦安全学习、Sim2Real 迁移与大语言模型三大关键支柱。
一、为什么需要"学习型"运动规划与控制?
传统移动机器人遵循"感知---规划---控制 "的模块化流水线:SLAM 估计状态并建图,规划器生成无碰撞轨迹,控制器计算执行器指令。这套基于模型的方法在静态环境中成绩斐然,但依赖预先设计的范式、显式数学模型和专家调参,难以从经验中学习,在敏捷无人机飞行、四足机器人跑酷等动态复杂任务中捉襟见肘。
深度强化学习(DRL)与深度模仿学习(DIL)让智能体直接从环境数据和任务示范中学习策略,突破了固定专家规则的局限。但纯学习型方法也面临样本效率、安全性、可解释性与可迁移性四大挑战。将机器学习与传统方法融合(如 ML-MPC),以及安全学习、Sim2Real、大语言模型等技术,成为通向具身智能的关键路径。
图3 交互---学习闭环与三大支柱(原文 Fig. 3)

图3:全文逻辑关系图(原文 Fig. 3)。安全、Sim2Real、LLM 是支撑真实世界应用的三大基石
以概念图形式揭示了全文逻辑:具身智能的核心是智能体与环境的"交互---学习"闭环------"如何交互"由规划与控制回答,"如何学习"由 ML 范式回答,而安全、Sim2Real、LLM 是支撑真实世界应用的三大基石。
二、核心贡献:五类系统架构的分类法
与以往按算法或应用领域分类的综述不同,本文以 ML 在传统流水线中发挥作用的功能位置 为依据,提出五类系统架构(Mode 1--5),并给出各架构的优缺点与代表性工作(原文 Table I)。
| 架构 | ML 嵌入位置 | 代表方法 | 优势 | 局限 |
|---|---|---|---|---|
| Mode 1 | 感知模块 | 单目深度估计、自适应卡尔曼滤波 | 计算成本低 | 泛化差、可解释性弱 |
| Mode 2 | 规划模块 | DIL / DRL 输出高层指令、参考点、轨迹控制点 | 无需试错(DIL)、可处理高维信息 | 依赖专家、误差累积 |
| Mode 3 | 底层控制 | DRL/DIL 状态→执行器;MBRL;ML-MPC | 样本效率高(MBRL)、保留 MPC 约束满足能力 | 稳定性与鲁棒性缺乏保证 |
| Mode 4 | 规划+控制统一 | 多传感器→执行器 | 减少误差累积 | Sim2Real 迁移困难 |
| Mode 5 | 端到端 | 原始传感器流→底层动作 | 最接近人类行为范式 | 稀疏奖励、训练极难 |
表 I 五类系统架构分类总表(原文完整版)(原文 Table I)

表 I:原文完整分类表截图(英文原表)。相比上面的 Markdown 摘要,完整版逐行列出了各架构下的代表工作与能力标注
上面的表格是便于手机阅读的浓缩版;原文 Table I 的完整版见上图,可放大查看每个 Mode 下的具体工作。
图4 综述结构与技术分类概念图(原文 Fig. 4)

图4:全文结构与技术分类总概念图(原文 Fig. 4)
图5 五种系统架构(原文 Fig. 5)

图5:五种系统架构(原文 Fig. 5)。图中标注了各模式下 ML 的嵌入位置与信息流
图4 给出全文结构,图5 直观展示了 NN 如何被嵌入感知、规划、控制不同环节,形成五种架构。
关键洞察 :端到端学习面临稀疏奖励与训练困难;而将原始视觉数据预处理为任务相关的抽象表征(如分割掩码提取的间隙边缘、离散 3D 点表示的门框),往往比从原始像素直接学习更有效------这一发现来自 Zhou 等人对"计算机视觉对动作是否重要"的对比研究【39】。
三、四大学习范式在不同架构中的应用
3.1 深度强化学习(DRL)
DRL 结合了 RL 的决策优势与 DNN 的表征能力,是最接近人类学习方式的技术。
- 学习规划(Mode 2):RL 策略可输出高层指令(引导 RRT 探索、自适应调节参考速度/预测时域),或与 MPC 结合输出子目标(视点、位置)作为局部规划器参考【46--48】。其优势在于无需数值优化即可处理高维复杂信息,但可解释性与最优性无保证。
- 学习控制(Mode 3):早期工作验证了 DNN 控制器在姿态恢复、固定翼姿态控制上的可行性【62】【33】。可解释性可通过分解为级联子模块实现【63】,收敛性可与传统控制器结合增强【64】,安全性可借助外部安全滤波器保障【32】。
- 规划控制一体化(Mode 4/5) :这是 DRL 最广泛采用的范式。无人机竞速 是标志性场景------DRL 策略可实时运行【94】,性能超越顶级人类飞行员【14】(Kaufmann 等发表于 Nature 的工作)。Song 等人的对比研究【15】进一步指出:DRL 超越最优控制并非因为更好地优化了目标,而是优化了更合适的目标。
- 部分可观测性(POMDP):策略常配备记忆模块,如 LSTM【34】、时序卷积网络(TCN)【31】、门控循环单元(GRU)【3】,从观测历史推断潜在状态。
- 多智能体(MADRL):集中训练分散执行(CTDE)成为主流范式,成功应用于多机器人目标搜索【106】与密集环境无碰撞集群【108】【109】。
3.2 深度模仿学习(DIL)
DIL 从离线专家示范中学习,比 DRL 更安全、更高效。核心是师生(T-S)学习框架,最直接的形式是行为克隆(BC):
L(θ)=E(s,a)∼D(πθ(s)−a)2\mathcal{L}(\theta) = \mathbb{E}_{(s,a)\sim \mathcal{D}}\left(\\pi_{\\theta}(s) - a)\^2\\rightL(θ)=E(s,a)∼D(πθ(s)−a)2
图6 四种 T-S 学习框架(原文 Fig. 6)

图6:四种 T-S 学习框架(原文 Fig. 6)。教师拥有"特权信息"(完美感知、真值状态),通过策略蒸馏把能力传给学生
四种框架分别是:(a) BC(行为克隆);(b) 动作空间蒸馏;© 并发 T-S 学习(教师与学生共享 actor-critic 策略)【131】;(d) 经验迁移【66】。
DIL 的核心难题是协变量偏移导致的复合误差,经典解法是 DAgger 算法【132】------用学习到的策略收集数据、请求专家纠正。此外,RL 微调【53】、在线人类干预【92】【61】可进一步提升泛化性与安全性。
3.3 基于模型的 RL(MBRL)
MBRL 通过学习世界模型作为"模拟器"生成虚拟数据,显著提升样本效率。三步骤范式为:真实数据采集 → 世界模型训练 → 在模型预测中训练策略。
图7 MBRL 的三步范式(原文 Fig. 7)

图7:MBRL 三步范式(原文 Fig. 7,引自【119】)
图8 无模型 RL 与两类基于模型 RL 的结构(原文 Fig. 8)

图8:三类学习结构对比(原文 Fig. 8)。(a) 无模型 RL;(b) 规划型 MBRL;© Dyna 型框架
代表性工作包括:PILCO【136】(高斯过程建模不确定性)、PlaNet【141】、Dreamer【142】(DNN 世界模型,可直接从高维图像规划),以及 Romero 等【119】用 Dreamer 架构从零训练出基于视觉的无人机竞速策略。MBRL 的核心挑战是模型误差在长时程预测中的累积。
3.4 ML-MPC:学习与经典控制的融合
MPC 在移动机器人精密控制中表现优异,但计算成本与模型精度限制了机载部署。ML-MPC 分为三类(原文 Table II 给出形式化对比):
表 II ML-MPC 三类框架的形式化对比(原文 Table II)

表 II:原文表格截图(英文原表)。三类 ML-MPC 的公式化对比,对应下文的 (a)(b)© 三种结构
图9 三类 ML-MPC 结构(原文 Fig. 9)

图9:三类 ML-MPC 结构(原文 Fig. 9)
- MPC 引导的策略搜索(MPC-GPS):用 NN 策略替代在线 MPC,推理极快(毫秒级),适合高频控制;但任务特定、泛化有限。代表工作:Kaufmann 等【58】用非线性 MPC 跟踪控制器 + 特权学习获得四旋翼特技策略。
- 学习动力学 :从真实数据学习 fθ(st,at)f_{\theta}(s_t, a_t)fθ(st,at),可捕捉气动阻力【79】、旋翼交互【153】、地面摩擦【83】等非线性效应。模型类型涵盖线性模型【76】、多项式【77】、高斯过程【78】【79】【7】、神经网络【81--84】;学习残差动力学【7】【79】【153】通常比从零学习完整模型更数据高效。
- 学习高层变量:高层策略在 MPC 优化循环之外实时配置代价、约束、参考点等决策变量,兼顾学习的灵活性与 MPC 的严谨性。代表工作:Loquercio 等【87】用采样算法调节高速飞行 MPC 参数;Kostadinov 与 Scaramuzza【88】在线更新代价函数权重提升跟踪精度。
表 III 学习动力学方法分类(原文 Table III)

表 III:原文表格截图(英文原表)。线性模型、多项式、高斯过程、神经网络等模型类型的代表工作一览
上表把第 2 类"学习动力学"涉及的各方法按模型类型做了归类,可对照查看。
四、三大关键支柱
4.1 安全学习控制
安全性可定义为状态与动作约束在无限时程上的满足【160】。核心矛盾是安全性与任务性能的权衡:模型先验越强,可证明的安全保证层级越高(图10)。

图10:不同模型先验下的安全保证层级(原文 Fig. 10)
图11 两种安全学习控制策略(原文 Fig. 11)

图11:安全学习控制策略(原文 Fig. 11)。(a) 安全备份控制器;(b) 安全滤波层
- 安全 RL:将问题建模为约束马尔可夫决策过程(CMDP)。Srinivasan 等【162】学习安全评论家估计约束违反概率,但联合优化易导致策略过度保守。
- 安全备份控制器:训练状态值/动作值网络预测潜在违规,作为智能切换机制【163】。He 等【105】的四足高速运动框架同时训练激进策略、恢复策略与 reach-avoid 值网络。
- 安全滤波层:基于控制屏障函数(CBF)【165】或 MPC【32】的最小干预修正。CBF-QP 是凸问题、可实时求解【160】,但手工设计困难;BarrierNet【167】用 NN 构造可训练 CBF,GP 可显式处理不确定性【168】,隐式 CBF【169】已实现 100 km/h 高速四旋翼实时部署。
4.2 Sim2Real 迁移
动力学差距(摩擦、气动、执行器延迟)与视觉差距(纹理、光照、传感器噪声)是 Sim2Real 的两大障碍【122】。
表 IV 仿真器性能对比(原文 Table IV)

表 IV:原文表格截图(英文原表)。PyBullet、AirSim/CARLA、Flightmare、RflySim、Gazebo、Isaac Gym 横向对比
表 IV 系统对比了 PyBullet、AirSim/CARLA、Flightmare、RflySim、Gazebo、Isaac Gym 在渲染引擎、物理引擎、训练速度、并行训练、传感器支持等维度的性能------Isaac Gym【176】凭借 GPU 大规模并行在训练速度上遥遥领先,而 AirSim【173】/CARLA 在视觉保真度上占优。
四条技术路线:
- 仿真改进:从真实数据辨识系统动力学参数【178】【179】。Hwangbo 等【30】通过辨识力矩---电流非线性关系成功迁移四足运动策略;Gronauer 等【71】用贝叶斯优化辨识四旋翼参数。
- 域随机化:广泛随机化动力学【69】【184】与视觉参数【185】分布,把真实世界视为"又一个随机实例"(图12 展示了域随机化生成的仿真数据【183】)。Du 等【186】提出域随机化参数的自动调优方法。
- 域适应:学习域不变特征,通过对抗训练【187】将仿真与真实映射到共享潜空间。Liu 等【172】将其应用于飞艇;Xiao 等【104】训练自适应特征提取器提取环境配置参数。
- 少样本真实数据微调:作为最后一步弥合残余差距,包括人在回路在线纠正【61】。
图12 域随机化生成的仿真数据(原文 Fig. 12)

图12:域随机化生成的仿真数据(原文 Fig. 12,引自【183】)
4.3 大语言模型与具身智能
LLM 为具身智能带来泛化与高层推理的突破。Mobile ALOHA【188】虽能完成擦红酒杯、洗碗等复杂任务,但仍依赖人类示范的 DIL,无法完全自主或适应新任务------"把物体从桌子中间推到右上角"的策略,甚至完不成"推到右下角"的微小变体。这正说明低层感知运动技能缺乏对世界的组合式理解。
图13 具身智能实例(原文 Fig. 13)

图13:具身智能实例(原文 Fig. 13)。(a) Mobile ALOHA【188】;(b) VLN 任务【191】
- 机器人基础模型:Google DeepMind 的 RT-1【192】→ PaLM-E【193】→ RT-2【194】→ RT-X【195】演进路线;NVIDIA 的 VIMA【196】支持多模态任务指令;字节跳动的 GR-1【197】基于大规模视频预训练。
- 高层语义规划与导航:NavGPT【199】将视觉观测转为文本推理下一步可达点;GPT-DRIVER【200】把运动规划建模为语言建模问题;NaVid【191】【201】是首个仅用 RGB 视频流输入、输出文本动作指令的导航系统;DiscussNav【202】采用专家 VLM 集成讨论决策。
- 低层控制 :LLM 更适合作为奖励设计者 【205】【206】、轨迹生成器 【207】、策略程序员【208】,而非直接输出连续控制量------其毫秒级实时性与物理 grounding 仍是瓶颈。
五、挑战与未来方向
图14 三层级挑战与改进方向(原文 Fig. 14)

图14:学习型策略落地面临的挑战与改进建议(原文 Fig. 14)。从算法、任务到真实世界应用三层展开
算法层:数据效率(Transformer/扩散模型世界模型、少样本学习)、安全保证(安全 RL + CBF)、可解释性(物理信息神经网络 PINN【159】、传统方法与 ML 结合)。
任务层:人类交互(干预学习、RLHF)、多任务(渐进神经网络 PNN、元 RL)、环境不确定性(不确定性建模、在线主动学习)。
真实应用层:Sim2Real(高保真仿真、合成数据)、安全部署(对抗攻击评估失败案例【209】)、机载计算(知识蒸馏、网络剪枝、NPU 等专用硬件加速器)。
六、结语
这篇综述的核心价值在于从系统架构而非算法标签出发,构建了学习型运动规划与控制的统一分类框架,揭示了不同集成策略的权衡与通向具身智能的架构演化路径。其三大结论值得铭记:
- DIL 与 DRL 对任务性能提升至关重要 ,端到端学习仍受稀疏奖励与训练困难制约,而策略输入的抽象表征对训练效果有积极影响;
- 现有模型多依赖经验调参与迭代设计,缺乏安全性与鲁棒性的形式保证,安全学习、Sim2Real、LLM 是落地关键;
- 挑战需从算法、任务、真实应用三个层级协同攻克。
📚 参考文献(仅收录正文已标注序号,按主题分类)
A. 综述与具身智能基础
- 【39】B. Zhou, P. Krähenbühl, and V. Koltun, "Does computer vision matter for action?" Science Robotics, vol. 4, no. 30, p. 6661, May 2019.
- 【122】H. Ju, R. Juan, R. Gomez, K. Nakamura, and G. Li, "Transferring policy of deep reinforcement learning from simulation to reality for robotics," Nature Machine Intelligence, vol. 4, no. 12, pp. 1077--1087, Dec. 2022.
- 【188】Z. Fu, T. Z. Zhao, and C. Finn, "Mobile ALOHA: Learning bimanual mobile manipulation with low-cost whole-body teleoperation," in Proc. CoRL, 2024, pp. 4066--4083.
- 【191】J. Zhang et al., "NaVid: Video-based VLM plans the next step for vision-and-language navigation," arXiv:2402.15852, 2024.
- 【209】F. Shi, C. Zhang, T. Miki, J. Lee, M. Hutter, and S. Coros, "Rethinking robustness assessment: Adversarial attacks on learning-based quadrupedal locomotion controllers," arXiv:2405.12424, 2024.
B. DRL 规划与控制
- 【3】T. Miki, J. Lee, J. Hwangbo, L. Wellhausen, V. Koltun, and M. Hutter, "Learning robust perceptive locomotion for quadrupedal robots in the wild," Science Robotics, vol. 7, no. 62, p. 2822, Jan. 2022.
- 【14】E. Kaufmann, L. Bauersfeld, A. Loquercio, M. Müller, V. Koltun, and D. Scaramuzza, "Champion-level drone racing using deep reinforcement learning," Nature, vol. 620, no. 7976, pp. 982--987, Aug. 2023.
- 【15】Y. Song, A. Romero, M. Müller, V. Koltun, and D. Scaramuzza, "Reaching the limit in autonomous racing: Optimal control versus reinforcement learning," Science Robotics, vol. 8, no. 82, p. 1462, Sep. 2023.
- 【31】J. Lee, J. Hwangbo, L. Wellhausen, V. Koltun, and M. Hutter, "Learning quadrupedal locomotion over challenging terrain," Science Robotics, vol. 5, no. 47, p. 5986, Oct. 2020.
- 【32】S. Chen, Y. Li, Y. Lou, K. Lin, and X. Wu, "Learning agile quadrotor flight in restricted environments with safety guarantees," IEEE Trans. Intell. Vehicles, vol. 9, no. 9, pp. 5642--5649, Sep. 2024.
- 【33】E. Bohn, E. M. Coates, S. Moe, and T. A. Johansen, "Deep reinforcement learning attitude control of fixed-wing UAVs using proximal policy optimization," in Proc. ICUAS, Jun. 2019, pp. 523--533.
- 【34】A. Singla, S. Padakandla, and S. Bhatnagar, "Memory-based deep reinforcement learning for obstacle avoidance in UAV with limited environment knowledge," IEEE Trans. Intell. Transp. Syst., vol. 22, no. 1, pp. 107--118, Jan. 2021.
- 【46】C. Greatwood and A. G. Richards, "Reinforcement learning and model predictive control for robust embedded quadrotor guidance and control," Autonomous Robots, vol. 43, no. 7, pp. 1681--1693, Oct. 2019.
- 【47】M. Lodel, B. Brito, A. Serra-Gomez, L. Ferranti, R. Babuška, and J. Alonso-Mora, "Where to look next: Learning viewpoint recommendations for informative trajectory planning," in Proc. ICRA, May 2022, pp. 4466--4472.
- 【48】B. Brito, M. Everett, J. P. How, and J. Alonso-Mora, "Where to go next: Learning a subgoal recommendation policy for navigation in dynamic environments," IEEE Robot. Autom. Lett., vol. 6, no. 3, pp. 4616--4623, Jul. 2021.
- 【62】---(手抛状态姿态恢复 DRL 控制,原文第 62 条).
- 【63】Han et al., 可解释级联飞行控制器(原文第 63 条).
- 【64】---(DRL 与传统控制器结合提升收敛性,原文第 64 条).
- 【66】Smith et al., 经验迁移加速四足敏捷运动(原文第 66 条).
- 【92】V. G. Goecks, G. M. Gremillion, V. J. Lawhern, J. Valasek, and N. R. Waytowich, "Efficiently combining human demonstrations and interventions for safe training of autonomous systems in real-time," in Proc. AAAI, vol. 33, 2019, pp. 2462--2470.
- 【94】Y. Song, H. Lin, E. Kaufmann, P. Dürr, and D. Scaramuzza, "Autonomous overtaking in Gran Turismo sport using curriculum reinforcement learning," in Proc. ICRA, May 2021, pp. 9403--9409.
- 【106】---(多机器人目标搜索,原文第 106 条).
- 【108】---(密集环境无碰撞集群,原文第 108 条).
- 【109】---(密集环境无碰撞集群,原文第 109 条).
- 【131】H. Wang, H. Luo, W. Zhang, and H. Chen, "CTS: Concurrent teacher-student reinforcement learning for legged locomotion," arXiv:2405.10830, 2024.
- 【132】S. Ross, G. Gordon, and D. Bagnell, "A reduction of imitation learning and structured prediction to no-regret online learning," in Proc. AISTATS, 2011, pp. 627--635.
C. DIL 与模仿学习
- 【27】A. Loquercio, E. Kaufmann, R. Ranftl, M. Müller, V. Koltun, and D. Scaramuzza, "Learning high-speed flight in the wild," Science Robotics, vol. 6, no. 59, p. 5810, Oct. 2021.
- 【30】J. Hwangbo et al., "Learning agile and dynamic motor skills for legged robots," Science Robotics, vol. 4, no. 26, p. 5872, Jan. 2019.
- 【53】Lin et al., RL 微调 DIL 策略(原文第 53 条).
- 【58】E. Kaufmann et al., 非线性 MPC 跟踪 + 特权学习四旋翼特技(原文第 58 条).
- 【61】Jiang et al., 人在回路在线纠正 Sim2Real(原文第 61 条).
D. MBRL 与世界模型
- 【119】A. Romero, A. Shenai, I. Geles, E. Aljalbout, and D. Scaramuzza, "Dream to fly: Model-based reinforcement learning for vision-based drone flight," arXiv:2501.14377, 2025.
- 【136】M. Deisenroth and C. E. Rasmussen, "PILCO: A model-based and data-efficient approach to policy search," in Proc. ICML, 2011, pp. 465--472.
- 【141】D. Hafner et al., "Learning latent dynamics for planning from pixels," in Proc. ICML, May 2019, pp. 2555--2565.
- 【142】D. Hafner, T. Lillicrap, J. Ba, and M. Norouzi, "Dream to control: Learning behaviors by latent imagination," arXiv:1912.01603, 2019.
E. ML-MPC 与学习动力学
- 【7】J. Kabzan, L. Hewing, A. Liniger, and M. N. Zeilinger, "Learning-based model predictive control for autonomous racing," IEEE Robot. Autom. Lett., vol. 4, no. 4, pp. 3363--3370, Oct. 2019.
- 【76】J. Svacha, K. Mohta, and V. Kumar, "Improving quadrotor trajectory tracking by compensating for aerodynamic effects," in Proc. ICUAS, Aug. 2017, pp. 860--866.
- 【77】S. Sun, C. C. de Visser, and Q. Chu, "Quadrotor gray-box model identification from high-speed flight data," J. Aircraft, vol. 56, no. 2, pp. 645--661, Mar. 2019.
- 【78】G. Cao, E. M.-K. Lai, and F. Alam, "Gaussian process model predictive control of an unmanned quadrotor," J. Intell. Robotic Syst., vol. 88, no. 1, pp. 147--162, Oct. 2017.
- 【79】G. Torrente, E. Kaufmann, P. Fohn, and D. Scaramuzza, "Data-driven MPC for quadrotors," IEEE Robot. Autom. Lett., vol. 6, no. 2, pp. 3769--3776, Apr. 2021.
- 【81】K. Y. Chee, T. Z. Jiahao, and M. A. Hsieh, "KNODE-MPC: A knowledge-based data-driven predictive control framework for aerial robots," IEEE Robot. Autom. Lett., vol. 7, no. 2, pp. 2819--2826, Apr. 2022.
- 【82】C. Folkestad, S. X. Wei, and J. W. Burdick, "KoopNet: Joint learning of Koopman bilinear models and function dictionaries with application to quadrotor trajectory tracking," in Proc. ICRA, May 2022, pp. 1344--1350.
- 【83】N. A. Spielberg, M. Brown, and J. C. Gerdes, "Neural network model predictive motion control applied to automated driving with unknown friction," IEEE Trans. Control Syst. Technol., vol. 30, no. 5, pp. 1934--1945, Sep. 2022.
- 【84】A. Saviolo, G. Li, and G. Loianno, "Physics-inspired temporal learning of quadrotor dynamics for accurate model predictive trajectory tracking," IEEE Robot. Autom. Lett., vol. 7, no. 4, pp. 10256--10263, Oct. 2022.
- 【87】A. Loquercio, A. Saviolo, and D. Scaramuzza, "AutoTune: Controller tuning for high-speed flight," IEEE Robot. Autom. Lett., vol. 7, no. 2, pp. 4432--4439, Apr. 2022.
- 【88】D. Kostadinov and D. Scaramuzza, "Online weight-adaptive nonlinear model predictive control," in Proc. IROS, Oct. 2020, pp. 1180--1185.
- 【153】L. Bauersfeld, E. Kaufmann, P. Foehn, S. Sun, and D. Scaramuzza, "NeuroBEM: Hybrid aerodynamic quadrotor model," in Proc. RSS, Jul. 2021, pp. 1--11.
F. 安全学习控制
- 【105】He et al., 四足高速激进/恢复/RA 值网络(原文第 105 条).
- 【160】---(安全控制理论基准 / CBF-QP 实时求解,原文第 160 条).
- 【162】K. Srinivasan, B. Eysenbach, S. Ha, J. Tan, and C. Finn, "Learning to be safe: Deep RL with a safety critic," arXiv:2010.14603, 2020.
- 【163】B. Thananjeyan et al., "Recovery RL: Safe reinforcement learning with learned recovery zones," IEEE Robot. Autom. Lett., vol. 6, no. 3, pp. 4915--4922, Jul. 2021.
- 【165】R. Cheng, G. Orosz, R. M. Murray, and J. W. Burdick, CBF 相关(原文第 165 条).
- 【167】W. Xiao et al., "BarrierNet: Differentiable control barrier functions for learning of safe robot control," IEEE Trans. Robot., vol. 39, no. 3, pp. 2289--2307, Jun. 2023.
- 【168】J. Li, Q. Liu, W. Jin, J. Qin, and S. Hirche, "Robust safe learning and control in an unknown environment: An uncertainty-separated control barrier function approach," IEEE Robot. Autom. Lett., vol. 8, no. 10, pp. 6539--6546, Oct. 2023.
- 【169】A. Singletary, A. Swann, Y. Chen, and A. D. Ames, "Onboard safety guarantees for racing drones: High-speed geofencing with control barrier functions," IEEE Robot. Autom. Lett., vol. 7, no. 2, pp. 2897--2904, Apr. 2022.
G. Sim2Real 与仿真器
- 【69】Molchanov et al., 动力学域随机化(原文第 69 条).
- 【71】Gronauer et al., 贝叶斯优化辨识四旋翼参数(原文第 71 条).
- 【104】Xiao et al., SafeDPA 框架 / 自适应特征提取器(原文第 104 条).
- 【172】Y. T. Liu, N. Singh, and A. Ahmad, "Task and domain adaptive reinforcement learning for robot control," arXiv:2404.18713, 2024.
- 【173】S. Shah, D. Dey, C. Lovett, and A. Kapoor, "AirSim: High-fidelity visual and physical simulation for autonomous vehicles," in Proc. FSR, 2018, pp. 621--635.
- 【176】V. Makoviychuk et al., "Isaac Gym: High performance GPU-based physics simulation for robot learning," arXiv:2108.10470, 2021.
- 【178】T. Zhang et al., "From simulation to reality: A learning framework for fish-like robots to perform control tasks," IEEE Trans. Robot., vol. 38, no. 6, pp. 3861--3878, Dec. 2022.
- 【179】J. Zheng, T. Zhang, C. Wang, M. Xiong, and G. Xie, "Learning for attitude holding of a robotic fish: An end-to-end approach with sim-to-real transfer," IEEE Trans. Robot., vol. 38, no. 2, pp. 1287--1303, Apr. 2022.
- 【183】A. Loquercio, E. Kaufmann, R. Ranftl, A. Dosovitskiy, V. Koltun, and D. Scaramuzza, "Deep drone racing: From simulation to reality with domain randomization," IEEE Trans. Robot., vol. 36, no. 1, pp. 1--14, Feb. 2020.
- 【184】M. Kaspar, J. D. Muñoz Osorio, and J. Bock, "Sim2Real transfer for reinforcement learning without dynamics randomization," in Proc. IROS, Oct. 2020, pp. 4383--4388.
- 【185】J. Tobin, R. Fong, A. Ray, J. Schneider, W. Zaremba, and P. Abbeel, "Domain randomization for transferring deep neural networks from simulation to the real world," in Proc. IROS, Aug. 2017, pp. 23--30.
- 【186】Y. Du, O. Watkins, T. Darrell, P. Abbeel, and D. Pathak, "Auto-tuned sim-to-real transfer," in Proc. ICRA, May 2021, pp. 1290--1296.
- 【187】H. Lin, Y. Liu, S. Li, and X. Qu, "How generative adversarial networks promote the development of intelligent transportation systems: A survey," IEEE/CAA J. Autom. Sinica, vol. 10, no. 9, pp. 1781--1796, Sep. 2023.
H. LLM 与具身智能
- 【192】A. Brohan et al., "RT-1: Robotics transformer for real-world control at scale," arXiv:2212.06817, 2022.
- 【193】D. Driess et al., "PaLM-E: An embodied multimodal language model," arXiv:2303.03378, 2023.
- 【194】A. Brohan et al., "RT-2: Vision-language-action models transfer web knowledge to robotic control," arXiv:2307.15818, 2023.
- 【195】A. O'Neill et al., "Open X-embodiment: Robotic learning datasets and RT-X models," arXiv:2310.08864, 2023.
- 【196】Y. Jiang et al., "VIMA: General robot manipulation with multimodal prompts," arXiv:2210.03094, 2022.
- 【197】H. Wu et al., "Unleashing large-scale video generative pre-training for visual robot manipulation," arXiv:2312.13139, 2023.
- 【199】G. Zhou, Y. Hong, and Q. Wu, "NavGPT: Explicit reasoning in vision-and-language navigation with large language models," arXiv:2305.16986, 2023.
- 【200】J. Mao, Y. Qian, J. Ye, H. Zhao, and Y. Wang, "GPT-driver: Learning to drive with GPT," arXiv:2310.01415, 2023.
- 【201】J. Zhang et al., "Uni-NaVid: A video-based vision-language-action model for unifying embodied navigation tasks," arXiv:2412.06224, 2024.
- 【202】Y. Long, X. Li, W. Cai, and H. Dong, "Discuss before moving: Visual language navigation via multi-expert discussions," in Proc. ICRA, May 2024, pp. 17380--17387.
- 【205】W. Yu et al., "Language to rewards for robotic skill synthesis," arXiv:2306.08047, 2023.
- 【206】Y. J. Ma et al., "Eureka: Human-level reward design via coding large language models," arXiv:2310.12931, 2023.
- 【207】J. Gu et al., "RT-trajectory: Robotic task generalization via hindsight trajectory sketches," in Proc. ICLR, May 2023, pp. 31542--31565.
- 【208】J. Chen et al., "RoboScript: Code generation for free-form manipulation tasks across real and simulation," arXiv:2402.14623, 2024.
I. 可解释性与物理信息方法
- 【159】J. Chrosniak, J. Ning, and M. Behl, "Deep dynamics: Vehicle dynamics modeling with a physics-informed neural network for autonomous racing," IEEE Robot. Autom. Lett., vol. 9, no. 6, pp. 5292--5297, Jun. 2024.
说明:本文图3---图14、表 I---表 IV 均截自原文《A Survey on Learning Motion Planning and Control for Mobile Robots: Toward Embodied Intelligence》,仅作技术解读之用;原文 Fig. 1、Fig. 2 未被本文引用,故未收录;表 I 另保留了一份 Markdown 浓缩版便于手机阅读。