Agent开发·阶段总结(一)|从工具调用到协作审批,串起 Agent 的执行过程
《Agent开发》系列 · 第一阶段复盘(01---04 篇)
用户向 AI 客服提出:
订单 1001 已经支付成功,但金币一直没有到账,帮我查一下。如果确实没发,就帮我补上。
这句话看起来只是一次客服咨询,背后却包含几个不同的问题:怎样把自然语言变成查询请求?一次查询不够时怎样继续?哪些步骤由程序安排,哪些让模型判断?如果需要补发,用户的一句话是否足以授权执行?
前四篇分别讨论了这些问题。本篇把它们放回同一个任务中,看看一个 Agent 系统怎样从"理解问题"走到"取得证据、提出建议、审批执行"。即使没有阅读前文,也可以沿着案例建立整体认识。
本次复盘对应以下四篇文章:
- Agent开发 01|Function Calling:AI 如何调用工具?
- Agent开发 02|Agent Loop:任务如何持续执行?
- Agent开发 03|架构选型:不同模式怎么选?
- Agent开发 04|协作与审批:怎样分工、何时让人确认?
先明确本篇的范围:下面是一条用于串联知识的参考流程,不是一个已经完成生产部署的项目。 前四篇的示例分别验证了工具交互、执行循环、架构组织和审批控制,并没有把它们整合成真实的支付与账务系统。
一、先分清:用户提出了什么,系统需要证明什么?
用户说"已经支付""金币未到账",表达的是自己的观察和诉求。系统需要核对可信业务数据,不能直接把这两句话当成已确认事实。
同样,"帮我补上"表达了处理意愿,是否允许补发还要遵守业务规则。本篇假设:确认符合补发条件后,需要有权限的运营人员批准。
因此,这个任务至少包含三段工作:
| 阶段 | 要解决的问题 | 完成的依据 |
|---|---|---|
| 调查 | 支付是否有效,金币是否已经发放? | 订单、发放和账务系统的查询结果 |
| 决策与审批 | 是否满足补发条件,谁有权批准? | 业务规则和绑定具体操作的审批记录 |
| 执行与核对 | 是否实际补发成功,是否重复执行? | 可信业务系统中的操作结果 |
Agent 可以帮助理解诉求、组织调查和解释结果,但这三段工作的完成标准不同。
查到了异常记录,不等于符合补发条件;获得批准,不等于执行成功;模型说"完成了",也不等于业务系统已经完成操作。
带着这几个区别,再看后面的执行过程。
二、第一步:让自然语言连接到具体查询
2.1 后端为什么需要模型帮助?
查询订单的业务接口通常需要明确的参数,例如订单编号 1001。但用户可能说"看看付款成功没""为什么金币还没到"。普通的接口调用代码不能直接把这些灵活的自然语言变成正确的查询操作,因此需要一个环节来理解需求、选择接口和提取参数。简单表达可以用规则处理;面对更灵活的问法,可以让大模型帮助完成这项工作。
如果用户只说"查一下这笔单",当前对话中又没有订单号,模型应请求补充信息,而不是编造一个编号。
开发者提前给 AI 助手后端配置好可用工具及其说明。后端收到用户的自然语言问题后,把用户原话和这份工具清单一起交给大模型。大模型理解问题,从清单中选择合适的工具,填写参数,再通过 Function Calling 把调用请求返回给后端。后端校验请求后执行工具,把结果交回大模型。大模型可以根据结果组织回答,也可以继续提出查询请求;需要返回给用户的回答,最终仍由后端发送。
Function Calling 是让模型提出结构化工具调用请求的机制。 这里的"结构化"表示工具名称和参数放在约定字段中,后端可以按字段处理。
例如,模型提出的请求可以简化表示为:
json
{
"name": "get_order_status",
"arguments": {
"order_id": "1001"
}
}
这只是请求的概念示例,不是某个模型 API 的完整响应格式。
2.2 请求由模型生成,执行仍由后端控制
这时订单还没有被查询。后端接下来要检查工具是否注册、参数是否符合要求,以及当前用户是否有权查看订单,再调用业务系统。
这次交互有三个参与者:
| 参与者 | 负责什么 |
|---|---|
| 大模型 | 理解问题、选择工具、填写参数、组织回答 |
| AI 助手后端 | 调用模型、校验请求、执行工具、传递结果 |
| 订单业务系统 | 提供订单数据,落实资源访问和业务约束 |
工具说明是给模型看的使用说明,实际查询能力由开发者实现。例如,后端把 get_order_status 这个名称关联到一个查询函数,该函数再调用订单业务系统的接口。模型只从允许使用的工具中提出选择,不会凭空让后端获得一个新接口。即使模型生成了格式正确的请求,后端也可以因为无权限或业务条件不满足而拒绝执行。
三、第二步:一次查询不够,怎样继续调查?
3.1 工具结果成为下一步判断的依据
假设查询结果确认订单已支付,但还不知道金币是否已经入账。后端需要把结果交给模型,让模型继续判断要查什么。
text
用户:查询订单 1001 为什么没有到账
↓
后端调用模型 [第 1 次]:传入问题和可用工具说明
模型返回:查询订单 1001 的工具请求
↓
后端校验并执行工具,得到"已支付"
↓
后端调用模型 [第 2 次]:带上前面的交互和订单查询结果
模型返回:查询金币发放记录的工具请求
↓
后端校验并执行工具,得到发放记录
↓
后端调用模型 [第 3 次]:带上前面的交互和发放查询结果
模型返回:当前调查结论
↓
后端向用户返回结论;需要进一步处理时,进入后续流程
这种"调用模型 → 执行工具 → 回传结果 → 继续或结束"的循环流程,就是 Agent Loop。
在"查订单、查发放记录、生成回答"这条示例路径中,一共调用模型三次、执行工具两次。第三次如果返回的仍是工具请求,后端就需要在允许的范围内继续循环。这些调用发生在一次用户请求的处理过程中,不需要用户每查一步都再发一条消息。
图中每一步后端协调工作的执行者,就是下面要介绍的 Runtime。
Function Calling 本身不限于一次工具请求。Agent Loop 解决的是后端怎样持续组织这些交互,并为它们设置终止条件。
3.2 Runtime 是负责运行这套流程的程序
流程不会自动发生。后端需要代码发送模型请求、查找工具实现、保存交互内容、处理错误,并检查是否达到次数或时间限制。
实现并管理这些执行工作的程序,称为 Agent Runtime(智能体运行时)。
可以用订单案例区分两者:
- Agent Loop 描述"查询结果反馈后,再次调用模型"的循环流程。
- Runtime 是让这些步骤实际发生的程序,并负责执行控制。
一个循环函数可以承担部分 Runtime 职责,但整个 Runtime 通常还包括模型调用、工具执行和状态维护等代码。
3.3 继续执行,需要规则;停止也需要规则
如果查询失败,后端需要依据错误类型决定是否允许有限重试。如果模型不断查同一张订单,后端需要通过轮数、工具次数或成本预算限制继续执行。临时网络故障可以考虑重试,权限不足通常应停止该操作;涉及补发等写入操作时,不能因为超时就直接重做。
没有工具请求时,模型可能是在给出结论,也可能是在询问订单号或拒绝处理。因此,结束本次交互不代表用户的任务已经成功完成。
前四篇中反复强调这些边界,原因就在这里:Agent 的下一步可以动态变化,但执行不能没有约束。
四、第三步:先决定哪些步骤值得交给模型
有了循环,并不意味着应该把每一个步骤都交给模型选择。
4.1 固定分支,先考虑 Workflow
如果规则只是:
text
查询支付状态
├── 未支付 → 说明当前状态
└── 已支付 → 查询发放记录 → 整理结论
开发者完全可以预先写好步骤和条件分支。这种由程序安排主要路径的方式,叫 Workflow(工作流)。
模型仍然可以参与提取订单号和解释结果,但"已支付才进入下一步"由程序控制。
查询结果未知,不等于执行规则未知。 只要能够提前写清结果对应的分支,就不必为了动态决策而增加模型调用。
4.2 路径难以预先列全,再考虑 ReAct
如果发放失败的原因不明确,需要根据日志线索决定查哪项配置、哪个服务或哪段账务记录,就更适合评估动态探索。
ReAct 将推理与行动交替起来:根据当前信息选择行动,执行后取得新的观察,再据此调整下一步。
例如,先查到发放失败,再根据错误信息检查相关服务日志,之后决定是否继续核对发布记录。这里展示的是判断与行动的关系,不要求向用户展示模型完整的内部推理过程。
ReAct 可以通过 Agent Loop 执行,Runtime 则负责校验和运行。它们分别描述决策方式、执行流程和承载流程的程序。
4.3 多阶段任务,再考虑显式规划
如果目标变成"分析最近一周未到账投诉增加的原因",可能需要统计、日志、版本对比和报告等多个阶段。
**Planner-Executor(规划器---执行器)**将制定计划与执行步骤分开。执行过程中发现新信息时,可以按规则重新规划。
它不要求一定使用两个 Agent,也不保证计划正确。计划仍需检查允许的操作、步骤依赖和执行结果。
这三种方式可以出现在同一个系统里:外层用 Workflow 固定"查询、调查、审批、执行"的阶段,异常调查阶段采用 ReAct;只有调查任务确实需要多阶段计划时,再加入 Planner-Executor。具体走哪条路径,可以由开发者配置的路由规则或受约束的调度逻辑决定。
对本篇的单笔订单问题,可以从固定流程开始,把真正不确定的排查步骤交给模型。选择架构时,先问"哪一步需要动态判断",再决定使用什么模式。
五、第四步:是否真的需要多个 Agent?
一个 Agent 使用订单、发放和日志三个工具,仍然是一个 Agent。工具数量多,不意味着必须增加 Agent。
当不同领域的工具、规则和上下文差异明显,单 Agent 已难以稳定处理时,可以评估 Multi-Agent(多智能体协作):让多个承担各自决策任务的 Agent 分工。
例如,支付 Agent 调查凭证,发放 Agent 核对入账,日志 Agent 根据线索调查异常。协调者收集结果,再形成结论。
协作方式也需要根据问题选择:
| 需要什么 | 可以考虑什么方式 |
|---|---|
| 将请求送到合适的处理入口 | Routing,目标也可以是普通程序或工作流 |
| 委托专业 Agent 调查后统一汇总 | Supervisor,协调者继续组织处理 |
| 由另一个专业 Agent 接手后续任务 | Handoff,转移处理权并交接必要信息 |
| 根据任务动态拆分子任务 | Orchestrator-Workers,按依赖分派执行 |
这些方式可以组合,但协调与交接本身也有成本。对单笔订单,单 Agent 往往是更值得先验证的起点。
交接时,应传递目标、必要事实、证据来源和约束。另一个 Agent 收到"订单已支付"的描述,不能据此获得补发权限。角色分工和上下文交接,都不能替代业务授权。
六、第五步:从调查结论走向审批与执行
6.1 先确认结果,再谈是否补发
假设发放记录显示失败,错误码是教学案例中的 GRANT_TIMEOUT。这可能是发放请求返回时超时,不足以证明余额一定没有写入。
此时应依据原操作标识查询可信账务记录。比如,原来的发放操作编号是 grant-1001,就先查询这笔操作是否已经实际入账,而不是只看请求有没有按时返回。
如果需要重试同一笔操作,应复用业务幂等键。幂等键就是用于识别"这是同一笔业务操作"的稳定标识 :后端再次提交 grant-1001 时,业务服务应识别出重复请求,避免再次增加余额。只是在请求里附带一个编号并不够,业务服务必须实现对应的去重和一致性控制。
不能因为"失败记录 + 用户要求补发",就直接创建一笔新的资产写入。人工批准同样不能代替结果核对。
6.2 人工参与,必须影响后续执行
在确认符合补发条件后,本篇假设业务要求运营人员批准。程序创建补发申请,等待有权限的人作出决定。
**Human-in-the-Loop(HITL,人机协同)**指在自动化流程中引入人的输入、审核、审批或接管,并让人的决定影响后续执行。
这里使用的是 Human Approval(人工审批),它应该绑定明确范围:
text
申请:req-1001
操作:补发金币
订单:1001
目标用户:user-a
金币数量:500
运营人员批准的是这份具体申请。模型之后改为另一张订单或 5000 金币,不能继续沿用原来的批准。
因此,后端需要保存批准时的参数快照,也就是将当时获准的操作、订单、用户和数量单独保存为审批依据,不能随着待执行申请一起被改掉。执行前,程序将当前请求与这份记录逐项比较;操作范围改变时,需要重新审批。
6.3 等待期间,业务仍然可能变化
审批可能耗时数小时。程序应保存任务进度和申请记录,结束当前执行,等审批事件到来再恢复,而不是让一个循环一直占用资源等待。
恢复后,还需要重新检查订单是否有效、是否已经发放,以及批准是否仍然有效。如果后台已经完成发放,就不应再次增加余额。
但"先检查,再写入"仍可能遇到并发:检查后,另一个请求也可能完成发放。所以最终写入需要业务系统保证同一笔发放只生效一次。例如,用唯一业务操作标识去重,并在同一数据库事务内完成去重记录与余额变更。仅仅把两次余额增加分别放进事务,并不能阻止它们都成功。 防重规则必须落实在业务写入路径上,不能只依赖模型、人工确认或内存中的标记。
6.4 只有业务结果能证明操作完成
批准记录证明某个操作获得了授权。工具请求证明模型提出过行动。两者都不能单独证明金币已经到账。
实际执行后,应取得可信业务系统的操作结果,并关联申请与执行记录。遇到超时或结果不确定,应继续核对,而不是让模型猜测成功。
到这里,最初那句"查一下,如果没发就补上",才被拆成了有证据、有授权、有执行结果的处理过程。
七、把系统中的职责放在同一张图里
下面是一张参考关系图,用来解释职责,不对应前四篇已经整合完成的代码。
text
用户提出自然语言任务
↓
AI 助手后端
│
├─ Runtime 组织执行
│ ├─ 调用模型,取得工具请求或回答
│ ├─ 校验工具、参数、身份和执行预算
│ └─ 保存结果,决定继续、等待或结束
│
├─ 查询工具 → 订单、发放、日志等业务系统
│ ↓
│ 返回查询结果与操作状态
│
└─ 符合补发条件 → 创建明确申请并保存任务
↓
有权限人员审批
↓
核对批准范围与当前业务状态
↓
可信业务服务幂等执行
↓
核对并记录执行结果
↓
后端向用户返回已确认的结果或当前处理状态
模型根据任务信息提出行动或组织回答;Runtime 控制调用过程;业务系统保护数据与资产操作;审批人按权限批准具体申请。
执行程序还需要配套条件:告诉模型有哪些工具、提供已经查到的信息、限定允许的操作,并把执行结果反馈回来。围绕 Agent 组织的这些工具、上下文、规则、预算和反馈等能力,常被统称为 Agent Harness。
在订单案例中,工具清单、订单查询结果、补发权限规则和调用次数限制,都属于这套运行配套能力。Runtime 强调"由什么程序组织执行",Harness 强调"执行时具备什么能力、信息和约束"。两者的术语边界并不统一,实际实现也可能重叠,不必为此拆成两个独立服务。
可以用下面的表回顾最容易混淆的关系:
| 概念 | 关注什么 | 容易混淆的边界 |
|---|---|---|
| Function Calling | 模型怎样表达工具请求 | 请求还需要后端校验和执行 |
| Agent Loop | 模型与工具怎样循环推进任务 | 循环结束不等于业务成功 |
| Runtime | 程序怎样实现和管理执行 | 不只是一个循环语句 |
| Workflow | 怎样用预先定义的步骤和分支组织任务 | 可以包含模型调用,也可以与其他模式组合 |
| ReAct | 怎样结合观察进行推理和行动 | 不等于所有 Agent Loop |
| Planner-Executor | 怎样把计划与执行分开 | 不一定需要多个 Agent |
| Multi-Agent | 多个 Agent 怎样分工协作 | 多个工具或函数不自动成为多 Agent |
| HITL | 人的判断怎样参与自动化流程 | 人工审批不能替代业务核对 |
| Harness | 周围提供哪些能力、信息与约束 | 与 Runtime 的边界并不统一 |
八、前四篇的 Demo,已经验证了什么?
完整参考流程有助于理解系统,但不能因此把教学代码描述为生产实现。
| 文章 | 示例帮助观察的机制 | 尚不能据此证明的能力 |
|---|---|---|
| 01|Function Calling | 工具声明、请求校验、执行与结果回传 | Mock 不能证明真实模型的理解和工具选择质量 |
| 02|Agent Loop | 多轮反馈、轮数与工具次数限制、停止状态 | 内存历史不能跨进程恢复,轮次边界时间检查不是严格截止时间 |
| 03|架构选型 | 同一任务的三种控制方式与代码组织 | 固定规则 Mock 不能比较真实模型的规划质量、延迟或费用 |
| 04|协作与审批 | 批准快照、范围变更拦截、串行重复执行保护 | 没有真实人工等待、完整多 Agent 协作、事务或持久化保障 |
这些示例分别运行,用于观察关键机制。尤其第 03 篇为突出架构对比简化了权限,第 04 篇的申请入口也没有实现完整认证,不能直接串起来承担真实资产操作。
这一阶段更合理的学习成果是:能够解释一条请求怎样执行、指出控制边界,并对不同方案的取舍作出说明。真实生产经验仍需要在真实系统中处理部署、故障、数据和持续运行的问题。
九、综合练习:为订单 1001 设计一条处理流程
现在不写新代码,先尝试回答下面四个问题。
问题一:你会选择什么架构?
已知常规排查只需查询支付和发放记录,但少量异常需要深入日志。你会把哪些步骤写成固定流程,哪些交给模型?是否需要多个 Agent?
问题二:发放接口超时后,用户要求再补发一次,怎样处理?
你会先确认哪些证据?用户意愿、运营批准和业务结果分别起什么作用?
问题三:运营批准了 500 金币,恢复时申请变成 5000 金币,在哪里拒绝?
只检查数量是否为正整数够不够?只检查当前数量与订单一致又够不够?
问题四:审批通过后,后台自动重试已经发放成功,还要执行吗?
执行前检查能解决哪些问题?如果两个请求同时通过检查,又该由谁保证不重复发放?
可以先独立回答,再对照下面的思路。
参考思路
架构上从简单方案开始。 支付与发放查询、权限检查、申请审批和最终写入走固定流程;确实需要跟随未知线索调查的部分,再考虑 ReAct。一个 Agent 能稳定完成时,不急于拆分。
超时先核对。 根据原操作标识查可信账务结果。结果不明确时不能把超时当成未发放,人工批准也无法消除这个不确定性。
范围由批准快照约束。 执行前比较申请标识、操作、订单、用户和金币数量。参数合法或与当前订单一致,不能证明它就是当时批准的内容。范围变化需要重新审批。
重复写入由业务系统保护。 如果已经发放,就结束本次申请而不重复入账。并发下,应由业务系统对同一笔发放作唯一性控制,并保证去重记录与实际入账一致;单独使用事务不自动等于防重。不能把这个职责交给模型的记忆。
这些回答不是唯一架构方案。关键是能解释每个决定由谁作出、依据什么信息,以及失败后怎样停止或恢复。
十、第一阶段之后,我们还需要解决什么?
到这里,执行过程已经串起来了:用户提出需求,模型生成工具请求,Runtime 组织查询与反馈,任务按选定方式推进,需要授权时进入审批,最终由业务系统执行并确认结果。
但这条流程依赖一个前提:每次调用模型时,它都能看到当前任务真正需要的信息。
如果只给模型用户最初的问题,它不知道已经查到了什么;如果每次都塞入全部记录,历史会越来越长,成本增加,关键事实也可能被大量无关内容淹没。多 Agent 交接和等待审批后恢复时,这个问题会更明显。
接下来要讨论的 Context Engineering(上下文工程),就是围绕"这一轮给模型看什么"设计信息的选择、组织与维护。
执行流程决定任务怎样向前推进,上下文则决定模型依据哪些信息作出下一步判断。带着订单 1001 已经查到的事实、尚未解决的问题和不能越过的约束,我们进入下一阶段。