1、强化学习中的回报与策略

一、强化学习中的回报

状态:

回报:

(更快的获得奖励可能比需要很长时间才能得到的奖励更具有吸引力)





折扣因子一般是比1少一点的数,如0.9,0.99,0.999等,下面为了说明目的,暂且使用0.5的折扣因子,这将极大的降低未来奖励的权重,或者说极大的折扣了未来的奖励,因为每经过一个时间戳,你只能获得比前一步少一半的奖励信用。

例子:

(你得到的奖励取决于奖励,而奖励又取决于你采取的行动,因此回报取决于你采取的行动)

例1:基于上述例子,若一直只往左走,折扣因子=0.5,则分别从不同状态起步获得的奖励计算如下:

例2:如果总往右走,那么如果从状态4开始,(下图中第一个0右上角的4表示状态4)

分别从不同状态起步获得的奖励计算如下:

二、强化学习中的策略

在强化学习中,我们的目标是提出一个称为策略Pi的函数,其任务是接收任何状态s作为输入,并将其映射到它希望我们采取的某个动作a。

强化学习的目标是找到一个策略Pi或S的Pi,它告诉你在每个状态下应采取什么行动,以最大化回报。

相关推荐
GRITJW10 小时前
从固定数据到在线策略:SFT、RL 与 OPD 如何重塑模型分布
强化学习·大模型微调
阿木实验室4 天前
预设航线之外,无人机如何应对变化?
强化学习·自主无人机
一颗小树x9 天前
《VLA 系列》AMP 代码复现 | 强化训练 | 行走 跌倒 恢复
机器人·强化学习·amp·vla·复现
飞思实验室10 天前
跨越算力鸿沟与不可微壁垒:GPU张量化仿真如何重塑多智能体强化学习?
gpu算力·强化学习
紫金修道10 天前
深度强化学习内核:从马尔可夫链到PPO的哲学与数学之美
强化学习
闲研随记13 天前
【文献阅读 ICML 2026】RL算法:R2VPO
论文阅读·人工智能·算法·强化学习·icml·rl算法
EW Frontier15 天前
三级跳突破864维动作空间——QMIX-Hierarchical多无人机协同通信方法全解析【附python代码】
开发语言·python·无人机·强化学习·通信资源分配
盼小辉丶18 天前
PyTorch强化学习实战(18)——基于DQN处理股票交易问题
pytorch·深度学习·强化学习
闲研随记20 天前
【文献阅读 ICML 2026】RL算法:Critique-GRPO
论文阅读·算法·llm·强化学习·rl·icml·grpo
智能优化与强化学习23 天前
Gym(Gymnasium)仿真环境详解(二):环境简介、入门算法、调参要点、核心挑战
算法·强化学习·gym·零基础入门·算法评估