lerobot库中RTC更新逻辑

目录

  • [1 问题背景](#1 问题背景)
  • [2 具体更新过程](#2 具体更新过程)

1 问题背景

RTC的ActionQueue是怎么更新的呢?

比如现在ActionQueue中剩余20个action,我启动了推理,生成了50步action,推理的delay步数是9,execution_horizon是15。

2 具体更新过程

剩余20个action中的前15个用来约束推理生成50步action,效果是前9步为剩余action的前9步,9~15步是新旧action的加权,15~50是新action。这50个action,先丢弃掉前9步,然后直接替换ActionQueue。是这样的。

融合,

txt 复制代码
0 ~ 9    权重 = 1
9 ~ 15   指数衰减,从较大逐渐到接近 0
15 ~ 50  权重 = 0

这会让ONNX图在生成当前chunk时,

txt 复制代码
new[0:9]    强烈贴近 old[0:9]
new[9:15]   逐渐减少旧动作影响
new[15:50]  基本自由生成新动作

注意这里不是在python中直接做加权。而是把prev_chunk_left_over和prefix_weights喂进onnx图,图内部在denoise过程中做RTC guidance。所以最终生成的前9步通常会接近旧动作,但不一定数学上完全等于旧动作。

所以完整的过程是:

txt 复制代码
推理开始时:
ActionQueue 剩余 old[0:20]

构造 RTC 输入:
old[0:20] 作为 prev_chunk_left_over
weights: [1...1, exp decay..., 0...]

ONNX 生成:
new[0:9]    受 old[0:9] 强约束
new[9:15]   受 old[9:15] 衰减约束
new[15:50]  基本自由生成

推理结束合并:
丢掉 new[0:9]
ActionQueue = new[9:50]
相关推荐
ahccqw9 小时前
OpenCV 缩放 与 位移
人工智能·opencv·计算机视觉
长不大的杨瑞杰9 小时前
OpenCode v2 GitLab 集成实战:Issue 驱动开发、MR 审查与 CI/CD 最小权限
人工智能·ci/cd·gitlab·ai编程·opencode
深蓝AI10 小时前
美团 LongCat-2.5 拆解:1.6T 参数只激活 3%,1M 上下文卖 0.3 美元,Agent 模型的账变了
人工智能·llm
小和尚同志15 小时前
54.6k star 的 Multica: 集多 Agent 和看板于一体的 AI 平台
人工智能·aigc·three.js
一枕槐安48715 小时前
少样本提示(Few-shot)在业务场景的落地实践
大数据·人工智能·意图分类·mmr多样性·knn检索·动态示例选择
王中阳Go16 小时前
后端转 Agent 岗面试怎么答:8 个高频问题与应答口径
人工智能·后端·python·大语言模型
海宇AI16 小时前
零信任架构实战:基于海宇个人风险报告构建自动化分期商城信用额度初审网关
运维·人工智能·架构·自动化
tellmewhoisi16 小时前
深度学习32:卷积神经网络:卷积层(卷积运算,填充,步幅)
人工智能·深度学习·cnn
weixin_3077791317 小时前
RAG 面试陷阱——混合检索并非无条件优越:一个条件反转实验
人工智能·python·面试·职场和发展
Sinokap17 小时前
OpenAI 披露 AI 安全实验:智能体如何突破隔离边界?
人工智能·安全