lerobot库中RTC更新逻辑

目录

  • [1 问题背景](#1 问题背景)
  • [2 具体更新过程](#2 具体更新过程)

1 问题背景

RTC的ActionQueue是怎么更新的呢?

比如现在ActionQueue中剩余20个action,我启动了推理,生成了50步action,推理的delay步数是9,execution_horizon是15。

2 具体更新过程

剩余20个action中的前15个用来约束推理生成50步action,效果是前9步为剩余action的前9步,9~15步是新旧action的加权,15~50是新action。这50个action,先丢弃掉前9步,然后直接替换ActionQueue。是这样的。

融合,

txt 复制代码
0 ~ 9    权重 = 1
9 ~ 15   指数衰减,从较大逐渐到接近 0
15 ~ 50  权重 = 0

这会让ONNX图在生成当前chunk时,

txt 复制代码
new[0:9]    强烈贴近 old[0:9]
new[9:15]   逐渐减少旧动作影响
new[15:50]  基本自由生成新动作

注意这里不是在python中直接做加权。而是把prev_chunk_left_overprefix_weights喂进onnx图,图内部在denoise过程中做RTC guidance。所以最终生成的前9步通常会接近旧动作,但不一定数学上完全等于旧动作。

所以完整的过程是:

txt 复制代码
推理开始时:
ActionQueue 剩余 old[0:20]

构造 RTC 输入:
old[0:20] 作为 prev_chunk_left_over
weights: [1...1, exp decay..., 0...]

ONNX 生成:
new[0:9]    受 old[0:9] 强约束
new[9:15]   受 old[9:15] 衰减约束
new[15:50]  基本自由生成

推理结束合并:
丢掉 new[0:9]
ActionQueue = new[9:50]
相关推荐
回眸&啤酒鸭2 天前
【回眸】Minicart 电商购物车核心功能落地指南
人工智能
一隅论数智2 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
AI的探索之旅2 天前
97 个 OpenCV 实例(三十):双目立体,从标定到点云
人工智能·opencv·计算机视觉
AlbertZein2 天前
Step-5-Preview 上手实测:3D 游戏、金融分析、网页设计一次跑完
人工智能·aigc
LaughingZhu2 天前
Product Hunt 每日热榜 | 2026-09-19
人工智能·深度学习·神经网络·搜索引擎·百度
美狐美颜SDK开放平台2 天前
开发直播APP时如何接入视频美颜SDK?开发流程与注意事项
android·人工智能·计算机视觉·音视频·直播美颜sdk
wukangjupingbb2 天前
智能网联汽车安全能力框架
人工智能
风合星语2 天前
2026 具身智能技术实战(一):VLA 到底怎么控制机器人?——用 LeRobot 跑通 SmolVLA 推理
pytorch·机器人·具身智能·vla·lerobot·smolvla
龙亘川2 天前
明月照湾区,智启新赛道:从顶流文旅IP盛会看智慧文旅升级路径
人工智能·智慧城市·开源软件·数据可视化