LINGO-1 - 自动驾驶的 视觉语言动作模型

文章目录



【LINGO-1:将自然语言应用于无人驾驶增强学习和可解释性】

  • 探索将视觉、语言和行动相结合的视觉语言行动模型(VLAM),以增强自动驾驶模型的解释性和训练效果。
  • 构建包含图像、语言和行动的数据集,通过专家驾驶员讲解的方式收集。
  • 开发了LINGO-1开环驾驶评论模型,可以生成驾驶评论和回答视觉问题。
  • LINGO-1可以增强闭环驾驶模型的规划和推理,优化少样本学习,应对长尾场景。
  • 当前局限还包括泛化能力有限、存在幻觉、上下文能力等。
  • 自然语言具有提高自动驾驶安全性、可解释性、可靠性的潜力,是值得探索的方向。

"链式思维"自动驾驶------自动驾驶系统能够"大声思考"并用文字表述出来!

LINGO-1是我最近一段时间读到的关于自动驾驶领域最有趣的研究。

以前的模式是:感知 -> 驾驶行动

现在的模式是:感知 -> 文本推理 -> 行动

LINGO-1通过训练一个视频-语言模型来对正在进行的场景评论。你可以让它解释自己的决策和计划(例如:"你为什么停下来?"、"你接下来打算做什么?")。


明确的推理步骤带来了几个关键的优势:

  • 可解释性:驾驶模型不再是一个神秘的黑箱,你对其安全性一无所知。
  • 反事实情景:它能够想象训练数据中没有的场景,并通过推理来正确处理这些场景。
  • 长尾编程:驾驶中有太多的边缘场景。对所有场景进行良好的数据覆盖是不可能的。现在,你不再需要收集成千上万的数据案例来"神经编程"某一个案例,而是可以通过编写简短的文本提示(prompts),由人类专家解释和指导系统如何处理某些特定或复杂的情景。

LINGO-1与游戏AI领域的一些研究密切相关:

  • MineDojo : https://minedojo.org
    学习一个奖励模型,将我的世界(Minecraft)的游戏视频与它们的文字记录对齐。
    这种模型,叫做"MineCLIP",能够将评论文本与视频像素关联起来。
  • 思维克隆(由Jeff Clune提出):在像素世界中实现像素 -> 语言 -> 行动的循环。

2023-10-07

相关推荐
Scc_hy7 分钟前
强化学习_Paper_1988_Learning to predict by the methods of temporal differences
人工智能·深度学习·算法
袁煦丞10 分钟前
【亲测】1.5万搞定DeepSeek满血版!本地部署避坑指南+内网穿透黑科技揭秘
人工智能·程序员·远程工作
大模型真好玩12 分钟前
理论+代码一文带你深入浅出MCP:人工智能大模型与外部世界交互的革命性突破
人工智能·python·mcp
_一条咸鱼_14 分钟前
LangChain 入门到精通
机器学习
遇码26 分钟前
大语言模型开发框架——LangChain
人工智能·语言模型·langchain·llm·大模型开发·智能体
在狂风暴雨中奔跑26 分钟前
使用AI开发Android界面
android·人工智能
飞哥数智坊27 分钟前
AI编程实战:30分钟实现Web 3D船舶航行效果
人工智能·three.js
誉鏐30 分钟前
从零开始设计Transformer模型(1/2)——剥离RNN,保留Attention
人工智能·深度学习·transformer
Ai野生菌32 分钟前
工具介绍 | SafeLLMDeploy教程来了 保护本地LLM安全部署
网络·人工智能·安全·大模型·llm
契合qht53_shine37 分钟前
OpenCV 从入门到精通(day_05)
人工智能·opencv·计算机视觉