Agent思维模式 | 评估

Agent思维模式:ReAct、Plan and Execute、Reflection

Agent 处理任务时的不同推理与执行策略

概念 全称 特点
ReAct R easoning A nd Act 边规划、边执行
Plan and Execute - 先规划、后执行
Reflection - 反思机制

ReAct(Reasoning and Act)

ReAct 是 Reasoning and Act 的缩写,本质上是一种**边规划边执行**的混合模式

  • 交替进行 :推理(Reasoning)与行动(Acting)交替执行
  • 即时调整 :根据当前执行结果动态调整后续计划
  • 适合复杂任务 :能够处理需要综合分析和多步骤执行的问题

处理流程

复制代码
用户输入 → LLM分析问题 
    ↓
推理 (Reasoning) → 行动 (Act) → 推理 → 行动 → ...
    ↓
返回结果

Plan and Execute(先规划后执行)

与 ReAct 不同,Plan and Execute 采用**两阶段分离**的策略

  • 阶段一:先完整规划整个任务流程

  • 阶段二:再按计划顺序执行

  • 更适合:任务边界清晰、步骤可预见的场景

    用户输入 → 完整规划 (Plan)

    按顺序执行 (Execute)

    返回结果


Reflection(反思)

Reflection 即反思,是 Agent 的一种自我修正机制

  • 对执行结果进行评估
  • 识别错误或不足
  • 调整策略后重新执行

维度 ReAct Plan and Execute Reflection
执行顺序 边想边做 先想后做 做完后想
灵活性 需要其他模式配合
计算成本 视情况而定
适用场景 动态、复杂任务 明确、线性任务 错误修正、自我优化

Agent Evaluation

Evaluation-评估,是对Agent进行系统性评价的过程

由于Agent基于LLM生成答案,其评估标准并非放之四海而皆准,而是需要根据不同的应用场景和落地方向进行针对性设计。

为什么要评估

评估的目的不仅仅是区分"能用"和"不能用"(这通常是暂时性判断),更核心的目的是通过评估进行调优。具体来说:

  1. 发现问题所在
  2. 指导进一步优化方向
  3. 建立更细致、更深入的评估流程

这一思维方式适用于所有软件工程类和科研类项目。例如:一个可运行的游戏,虽然功能正常,但仍可优化代码降低CPU/内存占用、减少网络流量消耗。

评估的两种类型

端对端评估

从用户视角出发,评估Agent从输入到输出是否合格。这是基础层面的判断,如果连基本匹配都做不到,Agent本身就不可用。

非端对端评估(步骤级评估)

针对工作流中的具体步骤进行分析和调优。典型工作流包括:

阶段 描述
分析 LLM分析用户输入,理解用户目的/企图
Planner 规划执行步骤(1、2、3、4、5...)
执行 逐个执行每个步骤(如RAG查询、搜索网页、调用工具、写本地文件等)

注:如果是ReAct等推理模式,可能会有更多的循环,由LLM自主决策下一步。

如何做评估

最简单的端对端评估可以用表格形式呈现:

序号 Input Output Ground Truth(标准答案) Score(评分)
1 ... ... ... ...
2 ... ... ... ...
3 ... ... ... ...

评估的具体方式不必拘泥,重点是建立一套符合落地场景的具体标准,用以判断Agent的输出是否正确。

核心要点

  • 评估标准需要根据应用场景定制
  • 评估的真正目的是调优,而非简单的通过/失败判断
  • 端对端评估看整体,非端对端评估看细节
  • 两种评估结合使用,才能全面提升Agent质量
相关推荐
Shockang10 小时前
AI 设计工作流全景拆解:Figma MCP / Claude Design / Codex / Google Stitch
人工智能
To_OC11 小时前
数据集划分不是随便切:手把手切分大众点评情感数据集
人工智能·llm·agent
冬奇Lab12 小时前
每日一个开源项目(第142篇):android/skills - Google 官方 Android 开发 AI Skill 库
人工智能·开源·资讯
冬奇Lab12 小时前
Skill 系列(06):Skill 工程化与治理——路由准确率 38%、压缩节省 76%
人工智能·开源·agent
IT_陈寒14 小时前
Vue这个坑我跳了两次,原来问题出在这
前端·人工智能·后端
新新技术迷14 小时前
Node给AI接口做SSE代理与鉴权
人工智能
redreamSo15 小时前
大模型是不是到顶了?瓶颈到底在哪
人工智能·openai
Oo92015 小时前
Tool Use 背后的技术逻辑
人工智能
姗姗来迟了15 小时前
Vue3封装AI流式对话组件踩坑实录
人工智能