机械臂模仿学习2.3:生成式对抗模仿学习GAIL

概念

是一种让计算机通过观察专家示范来学会完成任务的机器学习方法。

可以把它想象成一个"表演家 "和"评论家"之间的博弈:

  • 表演家(生成器):一个新手,试图模仿专家的动作。

  • 评论家(判别器):一个考官,火眼金睛地分辨哪些动作是专家的,哪些是新手模仿的。

随着博弈的进行,新手为了骗过考官,会模仿得越来越像,最终成为一个能像专家一样熟练执行任务的"行家"。

生成器(generator)和判别器(discriminator)各是一个神经网络。生成器负责生成假的样本,而判别器负责判定一个样本是真是假。

工作流程

  1. 对抗博弈 :整个过程是一个"最小-最大"博弈。智能体(生成器)的目标是最小化 自己与专家的差距,而判别器的目标是最大化自己分辨真伪的能力。

  2. 充当评论家:判别器像一个不断进化的"专家鉴定师",它被训练去区分哪些"状态-动作对"来自真正的专家,哪些来自正在学习的智能体。

  3. 充当表演家:智能体(生成器)则在环境中行动。它的"奖励"不是来自环境,而是来自判别器的打分。如果判别器认为它的行为像专家,它就得到高分。为了持续获得高分,智能体必须不断调整自己的策略,让自己更像专家

相关推荐
旅僧36 分钟前
Π环境部署(运行 且 无理论讲解)
学习
jushi899939 分钟前
Lucas Chess R国际象棋、中国象棋、日本将棋、五子棋训练学习工具游戏软件
学习
自传.1 小时前
尚硅谷 Vibe Coding|第一章 AI 编程基础理论 学习笔记
笔记·学习·尚硅谷·vibe coding
吃好睡好便好2 小时前
改变时间轴的跨度
学习·生活
fox_lht2 小时前
15.3.改进我们之前的输入、输出项目
开发语言·后端·学习·rust
chase。2 小时前
【学习笔记】SimpleVLA-RL:通过强化学习扩展 VLA 训练
笔记·学习
C语言小火车3 小时前
什么时候用智能指针?什么时候用裸指针?
c语言·c++·学习·指针
AOwhisky3 小时前
Redis 学习笔记(第一期):概述、安装配置与核心理论
运维·数据库·redis·笔记·学习·云计算
AOwhisky4 小时前
Redis 学习笔记(第四期):高可用与集群(哨兵 + Cluster + 容器化)
linux·运维·数据库·redis·笔记·学习·缓存
skywalk81634 小时前
言知项目后续方向建议
开发语言·学习·编程