26年6月来自港大、华为、上海创新研究院、源策未来(Archon Robotics)公司、KE:SAI德法研究所、Nvidia、南阳理工、valeo.ai、清华和图宾根大学的论文"World Engine: Towards the Era of Post-Training for Autonomous Driving"。
自动驾驶车辆必须在现实世界中安全运行,因为任何失误都可能导致严重后果。尽管现代端到端驾驶策略在常规场景中表现出色,但其实际可靠性受限于真实驾驶数据集中安全关键型"长尾"事件的稀缺性。这些罕见的交互场景界定了已学习策略的实际安全边界,却难以在现实世界中进行大规模采集。本文提出,通过利用合成的高风险交互场景对预训练驾驶模型进行后训练(post-training),可以解决这一根本性局限。推出 World Engine,一个生成式框架,能够根据真实世界日志重建高保真交互环境,并将其系统性地扩展为逼真的安全关键型变体。这种范式支持基于强化学习的后训练,使策略能够符合安全约束,从而规避了现实世界探索中固有的物理风险。在基于 nuPlan 构建的公开基准测试中,World Engine 显著降低了罕见安全关键场景下的失败率,其性能提升幅度远超单纯增加预训练数据规模所带来的收益。此外,当部署于生产级自动驾驶系统时,由此生成的策略减少了模拟碰撞,并在道路测试中展现出可量化的改进。
World Engine (WE)是一个旨在弥合"安全-紧要事件稀缺性"与"自动驾驶系统结构化学习需求"之间差距的学习框架。World Engine 从真实世界日志中挖掘易发生故障的场景,将其重构为包含多样化交通变化的、高保真的交互式世界,并利用基于强化学习的后训练(post-training)来提升规划器的安全性,且无需让真实世界面临额外风险(如图 1所示)。

自动驾驶问题可被建模为一项端到端学习任务,即将原始传感器观测数据映射为控制动作。本研究基于真实驾驶日志(如 nuPlan)实现这一建模方案,利用传感器数据和结构化标注信息构建交互式环境,用于模型的训练与评估。然而,真实驾驶日志中安全-紧要场景及长尾交互案例的稀缺性构成了一项关键挑战,这从根本上制约了规划器的鲁棒性(图 1a所示)。为此,World Engine 这一统一框架,将闭环交互数据的分布向长尾场景偏移------从而突破了仅靠真实数据采集所能覆盖的范围------并通过强化学习后训练(reinforcement learning post-training)对端到端模型进行适配优化(图 1b所示)。
该框架包含四个阶段:(1) 利用大规模真实驾驶日志预训练基础驾驶智体,并利用该智体识别易导致失败的长尾事件;(2) 采用 3D 高斯溅射(3D Gaussian Splatting)技术,将识别出的案例重构为具有照片级真实感的交互式仿真场景;(3) 利用可控行为世界模型(controllable behaviour world model),通过引入多样的交通变化来增强重构场景;(4) 基于生成的交互轨迹推演(rollouts)进行强化学习后训练,从而精调智体(图 1e所示)。
为了验证 World Engine 的有效性,将其应用于大规模开源真实驾驶数据集 nuPlan 13(包含传感器数据、高精地图及交通对象的 3D 标注),对端到端自动驾驶智能体进行训练与评估。本文用最先进的神经渲染技术开发了一款具有照片级真实感的驾驶模拟器,以实现对这些智体的闭环评估。在这一学术基准测试中,重点关注精选的安全-紧要长尾场景,并通过闭环推演(rollouts)评估模型表现------在此过程中,累积误差及其他智体的交互反应可能导致碰撞或偏离道路等故障。针对这些罕见案例,完整的 World Engine 流程显著提升闭环驾驶质量(相较于监督预训练基线),并在面临迫在眉睫的危险时实现更高的成功率。此外,数据规模扩展研究表明,单纯增加预训练数据量在处理罕见案例时边际收益递减;相比之下,World Engine 的后训练所带来的性能提升远超将预训练数据量翻倍的效果;趋势外推显示,即便预训练数据量增加一个数量级(约 10 倍),该方法仍保持着极强的竞争力(如图 2所示)。

1 预训练与长尾事件发现
World Engine 的第一步是识别那些对学习至关重要的场景。不从零开始合成稀有事件,也不依赖人工设计的场景,而是基于真实世界的驾驶日志来发现事件;因为这些日志自然地捕捉到复杂的智体间交互、上下文依赖关系以及真实的边缘事件(edge cases)------这些情况很难通过人工设计或合成扰动来忠实地构建。
首先利用大规模驾驶数据,通过模仿学习训练一个基础的端到端自动驾驶模型。这个预训练智体既充当强大的行为先验,又作为诊断探针:将每个记录的场景输入基础智体,获取其规划轨迹,并在一个基于 3D 边框(bounding boxes)和高精地图(HD maps)运行的轻量级模拟器中,针对记录的交通流执行非反应式推演(non-reactive rollout)。如果智体的轨迹与记录中的物体发生碰撞或偏离道路,该场景即被标记为"安全-紧要"(safety-critical),因为它们揭示了当前策略失效的工况。这些易于导致失败的案例构成 World Engine 旨在进行数据增强的长尾子集。
这种发现策略具有两大优势。首先,所选事件基于真实的传感器数据和交通配置,确保由此产生的训练分布在物理上是合理的。其次,由于基础智体本身定义其能力边界,因此发现的事件直接对应于通过后续训练能带来最大性能提升的区域。
2 仿真引擎
一旦识别出长尾事件,下一步就是将其转化为驾驶智体可以进行练习和学习的仿真环境。将这一组件称为仿真引擎:它将每个发现的场景重建为一个具有照片级真实感且可交互的世界,并组织闭环推演,让自车智体(ego agent)与周围交通流实时交互,从而生成不同于原始记录的全新自车轨迹。
仿真引擎的核心是一个基于 3D 高斯溅射(3D Gaussian Splatting, 3DGS)的重建流水线 14, 15。模拟器直接提供所有动态智体的物体级轨迹和 3D 边框,利用这些信息将场景分解为组合式场景图(compositional scene graph),从而将静态背景(道路、建筑物、植被)与动态前景物体(车辆、行人、骑行者)分离开来。每个元素都由一组拟合自驾驶日志中多视角观测数据的 3D 高斯(3D Gaussians)来表示。这种分解方式允许对单个物体进行独立操作------例如重定位、移除或改变任何交通参与者的轨迹------同时保持静态环境的逼真视觉质量(图 1c所示)。这一能力对于生成多样化的交通场景变化至关重要。
该表示方法的一个关键特性是支持任意视点渲染:一旦场景完成重建,便可从任意相机位姿进行渲染,而不仅限于原始日志中记录的位姿。这对于闭环仿真至关重要,因为在闭环仿真中,自车(ego vehicle)及周围交通参与者可能遵循与原始日志不同的轨迹。当自车采取新动作,或者其他参与者被重定位或重规划路径时,仿真引擎会实时生成相应的传感器观测数据,并保持与真实世界相机数据一致的视觉逼真度。这种实时渲染能力使得每个场景能够进行数千次仿真运行推演(rollouts),这对于大规模强化学习训练后的评估与迭代是必不可少的。
3 行为世界模型
尽管仿真引擎能够提供逼真的传感器观测数据,但要实现有意义的闭环交互,还必须对周围交通参与者的行为进行建模。为此,引入行为世界模型,该模型能够生成逼真且多样化的轨迹,使周围参与者能够针对自车的动作做出相应反应。
从核心机制上看,该行为世界模型是一个基于学习的扩散模型 16, 17,它将多智体轨迹生成过程视为一种结构化的去噪过程。基于当前的场景上下文信息------包括地图拓扑结构、参与者的历史状态以及自车规划的动作------该模型能够同时生成所有周围参与者的未来轨迹。扩散过程固有的随机性自然地产生多样化的行为样本:在相同的初始条件下,根据去噪路径的不同,可能会产生协作、激进或犹豫不决等各种交通响应行为。
除了随机生成之外,该模型还通过两种机制支持可控的行为合成。首先,目标条件设定(goal conditioning)允许针对单个智体灵活指定期望的终点或路点------从用于特定场景生成的明确约束到用于覆盖范围探索的概率采样------从而引导其轨迹朝向特定配置(如切入或突然变道)发展。其次,优化引导(optimization guidance)通过根据期望的行为目标评估每个候选轨迹(例如,倾向于接近碰撞阈值的交互或惩罚车道偏离),在去噪过程的每一步进行引导,并逐步将生成结果推向符合要求的输出。由于引导仅在采样阶段进行,因此无需重新训练基础模型。
为了保持灵活性,该仿真框架还支持其他交通模型:用于确定性重现记录行为的日志回放(log replay),以及用于基于规则的反应式交通的智能驾驶员模型(IDM) 18。这些模式可以在同一场景中混合使用,允许部分智体遵循学习的扩散模型,而其他智体则回放记录的轨迹或遵循基于规则的控制。这种随机多样性、可控生成与灵活交通建模的结合,使 World Engine 能够生成用于探测安全关键动态的反事实交互。单个长尾场景可以扩展为数百种变体,每种变体呈现不同的交通响应,从而在广泛的交互条件下测试自车智体(图 1d所示)。
4 强化学习后训练
仿真引擎与行为世界模型协同工作,基于长尾场景生成多样化的闭环仿真过程(rollouts)。强化学习后训练利用这些过程来优化驾驶智体,从而形成闭环。
将驾驶任务建模为部分可观测马尔可夫决策过程(POMDP),其中智体接收来自摄像头的观测信息,维护内部状态估计,并输出驾驶动作。其目标是学习一种策略,在保持接近预训练策略的同时,最大化累积奖励------该奖励反映了安全性(如避免碰撞、保持安全距离)、舒适性(如平稳加速、低加加速度/jerk)以及通行效率(如沿路线向前行驶)等多重指标。这种平衡通过行为正则化强化学习框架实现,其中利用 KL 散度惩罚项约束后训练策略,使其保持在预训练先验策略附近。这种正则化机制既能防止智体在常规驾驶能力上出现"灾难性遗忘",又能针对安全攸关的场景实现定向能力提升。
用于后训练(post-training)的数据源自两部分的混合:真实世界的驾驶轨迹记录与由 World Engine 生成的仿真运行轨迹(rollouts)。真实数据保留常规驾驶场景的分布特征,而仿真数据则增强稀有及安全攸关场景的数据密度。这种经验混合策略结合数据级和策略级的正则化手段,确保智体在提升应对"长尾"事件能力的同时,不会牺牲日常驾驶的表现:混合真实驾驶记录保留对常见场景的覆盖,而 KL 散度约束则限制智体行为偏离预训练策略的程度。
在仿真运行过程中,系统采用"困难经验挖掘"(hard experience mining)技术,筛选出最具信息价值的帧用于监督学习。并非仿真轨迹中的所有帧都同等重要:保留那些智体表现出失败或濒临失败行为的帧(例如即将发生碰撞、驶离道路或严重偏离人类驾驶行为),并将它们作为优先训练样本。通过将监督重点放在这些"困难帧"上,智体能够针对那些最需要改进的关键时刻进行重点学习。密集的奖励函数针对安全性、效率和舒适度目标提供中间反馈,并与困难经验挖掘技术协同作用,引导强化学习过程向安全且符合人类驾驶习惯的方向发展。
上述四个组件------预训练与长尾事件发现、仿真引擎、行为世界模型以及强化后训练------共同构成一个闭环流程。以预训练智体为起点,World Engine 负责发现其失效模式,将相应的场景重构为交互式环境,生成多样化的交通变体,并利用由此产生的仿真轨迹进行强化后训练。
该流程实现基于真实数据中稀有事件的可扩展后训练。由于每个训练场景均源自实际驾驶记录,学习信号在物理上保持合理性;同时,得益于行为世界模型和仿真引擎能够生成每个场景的多种变体,智体得以接触到极其丰富的交互条件分布,其广度远超被动数据采集所能提供的范畴。最后,由于训练后的强化学习阶段采用了行为正则化强化学习(behavior-regularized reinforcement learning),所得策略既能在关键工况下提升安全性,又不会牺牲在常规场景下的性能表现。
1 World Engine 的实现
World Engine 在公开数据集 nuPlan 上的具体实现,作为框架的参考范例,被用于所有受控消融实验及定量分析。在此基础上,World Engine 也在一套量产级 ADAS 开发技术栈中进行部署与评估。尽管工业级应用涉及额外的工程考量,但其核心流程架构与学习目标保持一致。因此,学术层面的实现能够忠实地反映实际应用系统的运作机制。
2 仿真引擎
该高保真仿真引擎是实现端到端规划器训练所需的在线探索与数据构建的关键,由重建和可控渲染两部分组成。
在重建阶段,采用基于 3DGS(3D 高斯溅射)的方法对驾驶日志进行重建。给定在时空驾驶日志中采集的一组图像和激光雷达点云,重建任务旨在学习一种 3DGS 表示,使其既能忠实再现观测到的传感器数据,又能恢复底层的几何结构。利用交通参与者的 3D 边框标注,通过基于场景图的设计 19 将动态物体与静态背景分离开来并分别进行重建。为确保高保真的新视角渲染效果,在重建过程中引入密集的几何约束(包括深度和表面法线监督),从而保证结构的一致性以及在不同相机位姿下高质量的视图外推效果。
在可控渲染阶段,仿真引擎根据给定的输入(包括时刻 t 的自车位姿、传感器内外参,以及其他非自车车辆的位置和朝向角)来渲染相应的传感器观测数据。自车及非自车车辆的 6 自由度位姿均根据从其轨迹估算出的地面进行校准。可控渲染的实现方式是:显式地操纵场景中重建出的动态物体,并从更新后的自车相机位置渲染相机观测图像。得益于 3DGS 高效的光栅化特性,该仿真引擎支持实时图像渲染,从而实现了闭环仿真与可扩展的在线数据生成。
重建过程始于特定驾驶日志中由关键帧确定的驾驶场景。利用 10 Hz 采样率的传感器数据,根据关键帧的时间戳,提取包含 3 秒历史数据和 8 秒未来数据的时空片段。若提取的时间窗口内车辆行驶距离不足 50 米,则延长片段的结束时间,直至累计行驶距离达到 50 米或到达驾驶日志的末尾;此举旨在确保足够的空间覆盖范围,从而实现稳定的重建。
为避免因长时间低速行驶或静止状态导致产生冗余的静态观测数据,对自车速度低于预设阈值时段内的帧进行降采样处理。此外,从相邻关键帧提取的片段在时间和空间上可能存在部分重叠;为防止对高度相似的内容进行重复重建,将重叠的片段合并,并作为一个统一的场景实例进行联合重建。
原始相机图像存在显著的镜头畸变,这会对重建质量和位姿估计产生不利影响。利用 OpenCV 20 对所有原始图像进行去畸变处理,并采用一种最优去畸变模式,以确保在重建过程中保留原始视场。在推理阶段,利用最优去畸变后的相机内参进行图像渲染,随后将其映射回原始畸变图像空间,从而与原始图像相匹配。
构建一个集成仿真引擎与行为世界模型的仿真平台,作为强化后训练(reinforcement post-training)及评估工作的执行核心。该仿真器负责生成闭环运行轨迹(rollouts)、计算特定任务的指标与奖励,并记录运行数据以供后续训练与分析使用。为确保与各类端到端规划器兼容,该仿真平台通过轻量级的文件接口与外部规划模型进行交互。在每个仿真步长中,仿真器将传感器观测数据与场景状态序列化并写入磁盘;规划器读取这些输入后输出规划轨迹,随后由仿真器执行该轨迹。在交通参与者建模方面,仿真器既支持日志回放(log replay),也支持基于反应式智能驾驶员模型(IDM)18 的模拟。轨迹跟踪任务通过采用自行车动力学模型 21, 22 的 LQR 控制器来执行。对于开环评估,采用 NAVSIM 基准测试 23 中提出的 PDM 分数(PDM Score)。而在 World Engine 仿真器中的闭环评估环节,同时报告场景成功率(SR)与闭环 PDM 分数(PDMS∗)。其中,SR 用于衡量自车(ego vehicle)是否能在不发生碰撞或偏离道路的情况下完成任务;PDMS∗ 则用于评估交互式仿真环境下闭环轨迹的质量,从而提供了一项兼顾任务进度与安全性的补充性评估指标。
3 行为世界模型
尽管仿真引擎能提供周围环境的逼真视觉呈现,但仍需对交通参与者的动态行为进行建模,以构建用于端到端模型训练的综合交通仿真器。该行为世界模型超越传统的基于规则或基于日志回放的仿真方法,利用生成式扩散框架来合成随机行为及对抗性行为。
将交通布局仿真构建为序列建模任务,将驾驶场景表示为包含参与者行为和地图特征的结构化token状态,从而能够同时预测所有参与者的未来轨迹。具体而言,参与者行为被定义为张量 x,其中 A 表示参与者的最大数量,T 表示物理时间跨度,D 表示参与者属性的维度。静态环境特征被编码为地图张量 c,该张量包含 L 条车道,每条车道由 N 个点构成,每个点具有 D 个属性(坐标和类型)。
基于这种向量化表示,行为世界模型 T_theta 采用扩散 Transformer (DiT) 架构,通过反转随机微分过程来生成参与者张量 x。设 x0为服从分布 p(x) 的原始参与者特征。训练过程始于初始状态 x0,该状态在时间步 k (0, 1] 期间经历渐进式噪声注入(其中 k 代表施加于相应token的高斯噪声程度),直至演变为 xk 处高斯噪声分布。
在采样阶段,所有参与者tokens均通过去噪步骤从标准高斯噪声中迭代生成。为实现目标导向的生成,模型设定了保留掩码 m_c,以确保目标tokens和历史tokens在采样过程中保持不变。
为确保生成的场景符合真实的驾驶先验知识,引入分类器引导(classifier guidance)机制 24,在每个去噪步骤中迭代调整参与者张量 x,以强制执行行为约束 25。具体措施包括:沿中心线的反方向分离重叠的参与者以避免碰撞,平滑轨迹,以及将参与者拉向最近的车道以确保其在道路上行驶。
4 强化后训练
仿真引擎与行为世界模型能够生成多样化的反事实场景,但针对这些极端情况(corner cases),仍需基于人类先验知识的探索性反馈进行引导。强化后训练阶段结合经验筛选与强化学习,旨在将多样化的经验转化为符合人类意图的性能提升。
奖励塑形:经过塑形的奖励函数提供结构化反馈,在训练后期引导策略向安全且符合人类意图的行为发展。针对每条轨迹,计算反映核心驾驶目标的信号,包括避障、遵守可行驶区域规则、沿预定路线的行驶进度、碰撞时间(TTC)裕量以及乘坐舒适度。这些奖励有助于区分高质量行为与低质量行为,并放大具有高信息量的"边缘工况"(corner cases)的贡献。驾驶质量较高的经验自然会产生更高的回报,而不安全或不合理的行为则获得较低的数值。这确保了策略不仅能从多样化及反事实场景中学习,还能理解哪些结果是理想的。
困难经验挖掘:基于混合经验分布 p,困难经验挖掘从记录数据和世界模型推演(rollouts)中收集具有高信息量的经验。重点关注那些揭示罕见或安全-紧要交互的场景片段,例如近乎碰撞、复杂的交互博弈、恢复性操作或明显偏离人类驾驶习惯的行为。这些混合样本的驾驶质量各异,并被分配了不同的加权学习策略。所有候选样本均需经过物理合理性检查。由此形成的包含高质量边缘工况的混合数据集,既能让系统从具有指导意义的经验中学习,又能保持与人类驾驶行为的一致性。
5 基础端到端驾驶模型
近年来,涌现出多种端到端规划方法 1, 26, 27,这些方法利用车载传感器数据(通常包括环视摄像头以及可选的激光雷达输入)和自车信息(如 IMU 位姿、定位数据及导航指令)。这些模型旨在预测车辆未来数秒内的轨迹,进而由控制模块利用该轨迹来控制车辆运动。它们通常采用监督学习方式,通过模仿人类驾驶行为进行训练。为了进一步增强空间理解能力和整体规划性能,这些模型往往与多个辅助任务(如目标检测、地图元素检测、运动预测和占用空间估计)进行联合优化。
在本研究中,采用一种标准化且稳健的模型架构。具体而言,用 BEVFormer 编码器 28 处理多摄像头输入及其他传感器数据,生成固定尺寸的 BEV(鸟瞰图)特征表示,从而有效地从鸟瞰视角捕捉周围的空间环境信息。参考 UniAD 1 的设计,该系统包含用于感知监督的目标跟踪解码器和地图分割解码器;此外还包含一个基于评分的规划解码器 27,该解码器基于 BEV 特征,从预定义的轨迹库中选择最佳轨迹。
1 实现细节
NuPlan 实验:nuPlan 数据集 13 包含 1,282 小时的驾驶日志,其中约 10% 包含同步的传感器数据。每辆车配备 8 个环视摄像头和 5 个以 10 Hz 频率工作的激光雷达(LiDAR)传感器。采用广泛使用的 navtrain 23 划分进行训练,该划分包含 103,288 个场景;每个场景由一个关键帧定义,并包含 1.5 秒的历史上下文信息及 4 秒的未来预测时域。评估在 navtest(包含 12,146 个场景)以及 navtest 的一个"罕见事件"子集(包含 288 个易失败场景)上进行。针对这些罕见场景,开展闭环仿真与评估。
在数据规模扩展实验中,预训练数据量在 navtrain 总量的 12.5% 到 100% 之间变化。除非另有说明,用于后训练的基础智体(base agent)均在 navtrain50pct 上进行预训练。模型主干网络由 ResNet-50 29 和特征金字塔网络(FPN)30 组成,输入为 8 个视角的摄像头图像,每个视角包含 4 帧时间序列数据。提取出的特征由六层 BEVFormer 28 编码器、六层规划解码器以及并行的跟踪与建图解码器 1 进行处理。该模型总共包含 5,830 万个可训练参数。
预训练在 8 块 NVIDIA H100 GPU 上进行,分为两个阶段:首先是历时 164 小时(40 个 epoch)的感知预训练,随后是历时 15 小时(8 个 epoch)的规划预训练。预训练完成后,在 navtrain50pct 上评估基础模型,并筛选出 5,340 个长尾场景。利用 World Engine,从这些场景中生成一个包含 31,508 帧数据的数据集,随后将其用于基于强化学习的后训练。后训练阶段耗时 11 小时,共进行 8 个 epoch。
在华为 ADS 实验中,预训练数据集采集自内部测试车队及涵盖多种车型的用户车辆。每辆车均配备异构传感器套件,包括 10 个环视摄像头、融合激光雷达(LiDAR)、毫米波雷达、GPS 以及惯性测量单元(IMU)。经过大规模数据挖掘、自动标注及数据集平衡处理,最终用于预训练的数据集包含约 8 万小时的驾驶数据,被组织为超过 1000 万个时长各 25 秒的片段。在后训练(post-training)阶段,将 World Engine 生成的 100 万个片段与从常规驾驶数据中采样的 500 万个片段进行混合。预训练在昇腾(Ascend)910B 神经网络处理器(NPU)上进行,总耗时 4 万 NPU 小时;随后进行 1.5 万 NPU 小时的后训练。
在实车道路评估中,训练好的策略被部署在一辆处于开发模式的华为 AITO 问界 M9 车辆上。在此配置下,仅采用极简的后处理:将模型输出与轻量级控制模块结合,直接驱动车辆底盘。尽管在如此庞大的数据规模下,对预训练语料库与实车测试路线进行详尽的路线级去重在实际操作中不可行,但测试期间遇到的特定真实世界交互场景------包括切入(cut-in)事件------本质上是不可复现的,也不可能存在于任何已记录的训练数据中,从而为模型在分布外(out-of-distribution)场景下的泛化能力提供了真实的检验。
2 安全-紧要闭环仿真
为了评估 World Engine 训练后模型的有效性,基于公开的 nuPlan 数据集 13 构建一个完全开源且可复现的安全-紧要驾驶场景基准测试集;该数据集包含 128 小时的真实驾驶记录,涵盖传感器数据、标注过的交通参与者信息以及高精地图。
该基准测试集构建自 nuPlan 官方测试集,确保所有评估场景均与预训练所使用的数据完全独立。该基准测试集侧重于罕见工况------即基准模型最容易失效的短时片段,例如临近碰撞、偏离道路或与其他交通参与者发生突发交互的场景(图 3b所示)。每个测试用例均代表一个从大规模驾驶记录中提取的、以碰撞风险为核心的局部 3D 场景,并在 World Engine 仿真环境中进行高保真重建。每个仿真片段时长为 4 秒,涵盖了驾驶模型必须针对迫在眉睫的危险做出反应的最易失效时间窗口。

采用 PDM Score 23 指标进行开环评估,并利用成功率指标在 World Engine 仿真环境中进行闭环评估(图 3a所示)。若车辆能顺利通过这 4 秒的片段且未发生碰撞或偏离道路违规行为,则视为场景测试成功;这反映了车辆在面临高压工况时保持安全且可控行为的能力。
为了考察 World Engine 后训练的数据效率,设计一项扩展性实验,将预训练数据量从 1.2 万个场景调整至 10.3 万个场景,并从三个指标评估每个模型:常规场景下的开环 PDM 分数、罕见场景下的开环 PDM 分数,以及罕见场景下的闭环成功率(图 2a所示)。随后,基于包含 5 万个场景的基础模型进行 World Engine 后训练,并将由此获得的性能提升与预训练阶段的扩展曲线进行对比。
尽管增加预训练数据能带来稳定但边际效应递减的性能提升------尤其是在涉及安全关键事件的稀有场景中------但"世界引擎"(World Engine)的后训练在所有三项指标上均实现了超越常规扩展趋势的增益。开环评估的改进证实了经过后训练的智体学会了更优的轨迹规划,而闭环评估的增益则进一步表明,这种改进的规划能转化为动态交互累积过程中的更安全行为。
基于5万个场景的基础模型进行"世界引擎"后训练,其性能已超越了使用两倍以上数据量进行预训练的模型。若推演扩展曲线,仅靠预训练要达到同等的闭环性能增益,将需要约一个数量级更多的真实世界数据;这凸显出,针对合成稀有事件进行定向后训练,是实现安全性提升的一种比单纯扩大被动数据采集规模更具数据效率的途径。
此外,还比较不同的后训练数据源与交互模型(图2b--d及表1所示)。基于常见驾驶日志进行的后训练对于罕见场景下的闭环评估收益有限,甚至有负面影响:尽管它提升常见场景下的开环 PDMS,却使罕见场景下的闭环 PDMS∗ 从 60.98 略微下降至 60.20,这表明仅靠常见日志无法解决长尾交互失效问题。基于罕见场景日志进行的后训练将罕见场景下的开环 PDMS 从 47.14 提升至 59.20,但在闭环表现上的收益有限,说明固定的罕见场景日志不足以实现稳健的交互行为。

罕见场景的合成回放(synthetic replays)进一步提升罕见场景下的开环 PDMS 并显著提高闭环成功率,但在本次对比中其自车行进进度(ego progress)最低,这表明单纯的"成功/失败"二元结果无法全面反映兼顾行进进度的闭环驾驶质量。相比之下,不依赖行为世界模型的罕见场景推演(rollouts)提供了反应式闭环体验,在较好地保持常见场景性能的同时,将罕见场景下的闭环 PDMS∗ 提升至 67.33。通过行为世界模型引入增强的交通交互,实现了最佳的罕见场景闭环综合性能,不仅取得 70.12 的最高 PDMS∗ 和 88.89% 的最高成功率,还保持了优异的常见场景开环 PDMS。包含成功率、自车行进进度和 PDMS∗ 在内的完整定量结果见表 1。
3 生产级驾驶验证
为了在生产规模下验证 World Engine,将其应用于华为高阶智能驾驶系统(ADS)------这是一套已部署于超过一百万辆汽车、并具备城市与高速公路场景下点到点驾驶能力的自动驾驶系统。利用该系统的开发与测试技术栈,其中端到端模型直接接收传感器输入,并生成轨迹供控制模块执行车辆驾驶。首先,利用从 100 多个城市采集的超过 8 万小时真实驾驶数据,训练基础端到端模型。随后,遵循与此前实验相同的流程:从训练日志中识别易发生故障的场景,利用基于 3DGS 的渲染技术重建这些场景,通过行为世界模型增强交通交互,并利用强化学习后训练(reinforcement post-training)对基础模型进行优化。
如图S1所示自动驾驶闭环的测试平台总流水线:
