【论文精读】PlanT: Explainable Planning Transformers via Object-Level Representations

1 基本信息

院校:德国的图宾根大学

网站:https://www.katrinrenz.de/plant

2 论文背景

2.1 现有问题

现在的基于学习的方法使用高精地图和BEV,认为准确的(达到像素级的pixel-level)场景理解是鲁棒的输出的关键。recovering pixel-level BEV information from sensor inputs。

2.2 作者的想法

作者认为这么丰富的信息是不必要的,仅仅使用低维的(物体级的object-level)特征------周车和routing信息即可。

3 解决办法

3.1 Tokenization

tokenization是指从场景如何获取token的过程。作者用的carla,细节略。直接看的得到的token。

Vt是车辆信息,St是routing信息。包含类型z,相对于自车的bouding box的位置x和y,长宽h和w,方向fai,一共6维。

3.2 Token Embeddings

将tokens输入给一个线性层,原来的6维变成H(hidden)维,再分别加入偏置ev和es,得到e。

3.3 自车规划任务

输入是3.2的线性化后的Vt+St和一个cls token(H维),transformer采用了BERT架构,输出采用GRU,通过自回归的方式输出Wx2的轨迹点。

3.4 周车预测任务

将transformer的输出h(每个周车都有h),经过一个线性层linear layer预测速度/位置/方向等。

3.5 loss设计

自车规划任务:自车轨迹的l1loss。

周车预测任务:交叉熵损失。

相关推荐
威化饼的一隅11 小时前
【搜索推荐学习】生成式召回
大模型·双塔模型·语义id·召回·sid·生成式召回
thesky12345612 小时前
27届大模型面试准备(六十七):大模型推理编译与图优化工程——从计算图到高效内核
大模型·tvm·图优化·xla·算子融合·编译期优化·推理编译
山顶夕景12 小时前
【LLM】GLM-5.3-Flash模型
大模型·llm·agent·多模态·moe
pnoker12 小时前
IoT DC3 AI 能力:Agentic Center 的设计与边界
java·人工智能·物联网·大模型·spring ai
JoannaJuanCV16 小时前
VLM学习-SFT(监督微调)
深度学习·学习·机器学习·大模型·视觉大模型·vlm·视觉编码器
tachibana217 小时前
AI Agent 的记忆机制
人工智能·ai·大模型·llm·agent
thesky12345618 小时前
27届大模型面试准备(六十八):长思维链与推理时计算扩展——从 long-CoT 到 inference-time scaling
大模型·长思维链·推理时计算扩展·inference-time scaling·long-cot·best-of-n·process reward
CoderJia程序员甲19 小时前
GitHub 热榜项目 - 周榜(2026-08-30)
ai·大模型·llm·github·ai教程
艾莉丝努力练剑20 小时前
【AI大模型接入SDK】SSE协议
c++·学习·面试·大模型·sdk
tachibana220 小时前
Agent 的长短期记忆系统
人工智能·ai·大模型·llm·agent