李宏毅深度强化学习入门笔记:Actor-Critic

李宏毅-深度强化学习-入门笔记:Actor-Critic

  • 一、深度强化学习简介
  • [二、Policy-based 方法](#二、Policy-based 方法)
    • [(一)学习一个 Actor](#(一)学习一个 Actor)
    • [(二)Deep Learning 的 3 个步骤](#(二)Deep Learning 的 3 个步骤)
      • [1. 确定 Function:作为 Actor 的神经网络](#1. 确定 Function:作为 Actor 的神经网络)
      • [2. 确定 Actor 的好坏](#2. 确定 Actor 的好坏)
      • [3. 选择最好的 Actor](#3. 选择最好的 Actor)
  • [三、Value-based 方法](#三、Value-based 方法)
    • [(一)学习一个 Critic](#(一)学习一个 Critic)
    • [(二)3 种 Critic](#(二)3 种 Critic)
    • [(三)如何评估 V π ( s ) V^{\pi}(s) Vπ(s)](#(三)如何评估 V π ( s ) V^{\pi}(s) Vπ(s))
  • [四、 Actor-Critic](#四、 Actor-Critic)

网课链接:https://www.bilibili.com/video/BV1XP4y1d7Bk/

一、深度强化学习简介

RL分类:Policy-based、Value-based

model-based 需要对未来世界有一定理解,知道未来可能会发生什么事

二、Policy-based 方法

(一)学习一个 Actor

Machine Learning 的任务是找一个 Function, RL 也是找一个称为 Actor 的 Function。

(二)Deep Learning 的 3 个步骤

1. 确定 Function:作为 Actor 的神经网络

NN 的输入:表示机器观测的一个向量或矩阵

NN 的输出:在输出层与动作相关的神经元

2. 确定 Actor 的好坏



3. 选择最好的 Actor

(1)梯度下降

(2)增加一个 baseline

三、Value-based 方法

(一)学习一个 Critic

Critic 不确定 Actor

给定一个 Actor,Critic 可以评估 Actor 有多好

(二)3 种 Critic


(三)如何评估 V π ( s ) V^{\pi}(s) Vπ(s)



四、 Actor-Critic



相关推荐
Leweslyh2 小时前
智能时代的基石:神经网络
人工智能·深度学习·神经网络
Doctor老王5 小时前
N1:one-hot编码案例
pytorch·深度学习
一棵开花的树,枝芽无限靠近你7 小时前
【PPTist】历史记录功能
前端·笔记·学习
qq_366740608 小时前
ubuntu+ros新手笔记(一)
linux·笔记·ubuntu
smartcat20108 小时前
PPO系列3 - PPO原理
强化学习
明明真系叻8 小时前
第二十五周机器学习笔记:卷积神经网络复习、动手深度学习—线性回归、感知机
笔记·机器学习·线性回归·1024程序员节
少喝冰美式8 小时前
ThinkRAG开源!笔记本电脑可运行的本地知识库大模型检索增强生成系统
深度学习·自然语言处理·开源·大模型·llm·知识库·thinkrag
可乐续命!8 小时前
opencv下载安装及VS配置(笔记)
笔记·opencv
bohu839 小时前
分布式事务seata(AT)与nacos整合-笔记1
笔记·nacos·seata·安装·at
web130933203989 小时前
基于python的Selenium webdriver环境搭建(笔记)
笔记·python·selenium