Agent开发 04|协作与审批:怎样分工、何时让人确认?
《Agent开发》系列 · 第 04 篇
假设用户向 AI 客服提出:
我购买了金币,订单显示支付成功,但金币一直没有到账,能帮我处理一下吗?
AI 助手可以先查询订单状态,再查看金币发放记录。如果问题简单,一个助手调用几个工具,就能给出排查结论。
当我们进一步设计这套处理流程时,会遇到两类不同的问题。
第一类问题:调查工作怎样分工?
例如,排查同时涉及支付凭证、金币发放流水和服务端日志。可以让一个 Agent 使用这些工具完成调查;也可以在确有必要时,让支付 Agent 核实支付信息,让发放 Agent 检查入账记录,再由协调者汇总结果。
后一种组织方式,就是 Multi-Agent(多智能体协作):让多个 Agent 分担任务,并处理它们之间的信息传递与协调。
第二类问题:查到异常后,谁有权决定补发?
假设经过业务核对,已经确认用户应得的 500 金币没有发放。AI 助手可以整理证据、提出补发建议,但是否允许执行,还要遵守业务规则。
如果规则要求运营人员批准,那么流程就需要先保存补发申请,等待有权限的人审批。批准后,程序重新检查订单与发放状态,再执行补发;拒绝后,则停止这次申请。
这种在自动化流程中引入人的判断,并让人的决定影响后续执行的方式,叫 Human-in-the-Loop(HITL,人机协同)。人工审批是其中一种形式,也可以是补充信息、审核结果或接管任务。
两类问题可以分别处理:多 Agent 关注任务怎样分工,HITL 关注哪些节点需要人参与。一个 Agent 同样可以进入人工审批流程,不必先搭建多 Agent 系统。
沿着这个案例,我们主要讨论下面四类需求。先了解它们分别解决什么问题,具体实现后面逐步展开。
| 遇到什么问题 | 可以怎样处理 | 对应方式 |
|---|---|---|
| 一个助手调用几个工具就能查清问题 | 先由一个 Agent 完成排查 | Single Agent(单智能体) |
| 不同领域需要分别调查和整合结果 | 让多个专业 Agent 分工协作 | Multi-Agent(多智能体协作) |
| 补发等操作需要有权限的人批准 | 创建明确的申请,批准后再检查并执行 | Human Approval(人工审批),属于 HITL |
| 自动处理无法继续,需要人处理 | 把任务进度和已有信息交给人工 | Human Takeover(人工接管),属于 HITL |
对本文的单笔订单案例,可以先采用"单 Agent 排查 + 固定审批流程"。多 Agent 是按需增加的组织方式,不是必要前提。
本文会沿着这个案例,先讲分工与交接,再讲审批怎样绑定具体操作,最后用 Python 演示申请、批准和执行之间的控制关系。不要求提前阅读其他文章。
一、先从一个 Agent 使用多个工具开始
这里可以先把 Agent 理解为:由模型判断下一步、由后端执行工具并反馈结果的助手。工具则是后端提供的具体能力,例如查询订单或查询发放记录。
同一个 Agent 可以使用多个工具:
text
用户:订单 1001 的金币为什么没有到账?
↓
订单助手判断需要核实支付状态
↓
后端执行订单查询,把结果交回助手
↓
订单助手根据结果,请求查询金币发放记录
↓
后端执行查询并回传结果
↓
订单助手整理排查结论
这里虽然发生了多次查询,仍然只有一个 Agent 负责判断和组织回答。查询订单、发放记录和日志的三个函数,不等于三个 Agent。
如果这套方式能够稳定处理问题,就可以继续使用它。需要人工审批时,再接入由程序规定步骤和分支的工作流即可。
对单笔订单排查,"单 Agent + 工具 + 固定审批流程"是合适的起点。 后面介绍多 Agent,是为了理解任务复杂时怎样扩展,不是要求把简单查询拆成多个角色。
二、什么时候值得拆成多个 Agent?
2.1 当专业职责确实需要分开
假设支付调查需要理解支付凭证和渠道状态,发放排查需要核对金币账务,日志分析又涉及大量服务端记录。它们可能使用不同工具、业务规则和上下文,也需要分别评估处理质量。
如果把这些内容全部交给一个 Agent,已经出现工具混用、上下文干扰或难以独立维护的问题,就可以评估是否值得拆分:
| 分工示例 | 负责的任务 | 主要使用的信息 |
|---|---|---|
| Payment Agent(支付 Agent) | 调查支付状态和凭证问题 | 支付查询工具、渠道规则 |
| Grant Agent(发放 Agent) | 调查金币发放与入账情况 | 发放记录、账务查询工具 |
| Log Agent(日志 Agent) | 根据线索查找服务异常 | 服务日志、发布记录 |
Multi-Agent 是多个具备各自职责和决策能力的 Agent,通过协调、交接或协作共同完成任务的系统设计。 关键是它们各自承担什么决策任务,以及结果怎样汇合。把普通函数改名为 PaymentAgent,并不会自动产生这种协作。
2.2 分工有收益,也有额外成本
拆分可能带来专业化、上下文分离、独立评测和并行处理的收益;也会增加交接次数、信息损失、延迟和测试复杂度。
因此,专业工具不同只是考虑拆分的理由,不是必须拆分的结论。也可以先尝试缩小单个 Agent 的工具范围、按任务加载信息或改进固定流程,再通过实际任务验证。
另外,角色分工不等于权限隔离。不同提示词和工具清单用于划分职责,真正的权限边界仍要由可信身份、工具授权和业务服务检查落实。
明确了为什么拆分,接下来的问题就是:多个 Agent 由谁协调,谁继续处理用户的任务?
三、多个 Agent 怎样协调和交接?
先掌握两种基本关系:一种是委托专业 Agent 处理后返回结果,另一种是把后续处理权交给它。复杂任务中,再考虑动态拆分和并行。
3.1 Supervisor:委托专业 Agent,统一汇总结果
用户仍由客服入口接待。协调者发现需要核实支付,就委托支付 Agent;需要排查发放,就委托发放 Agent。专业 Agent 完成子任务后返回结果,协调者继续组织处理并回复用户。
这种集中协调方式通常称为 Supervisor:
text
用户任务
↓
Supervisor 接收任务并分派调查
├── 支付 Agent → 返回支付证据
├── 发放 Agent → 返回发放记录
└── 日志 Agent → 返回异常线索
↓
Supervisor 汇总证据,形成回答
图中的分支表示可以委托的角色,不代表每次都必须调用全部角色,也不代表它们一定并行。适合需要统一入口和多领域结果整合的任务,但协调者也可能成为瓶颈。
3.2 Handoff:把后续处理权交出去
另一种情况是:客服 Agent 判断问题属于支付领域后,将任务交给支付 Agent,由支付 Agent 继续询问用户、调用工具和处理后续对话。
这称为 Handoff(任务交接):
text
用户 → 客服 Agent 识别问题 → 支付 Agent 接手后续处理
它与前一种方式的区别在于:Supervisor 主要委托子任务并收回结果,Handoff 强调当前任务控制权的转移。是否再交回客服 Agent,取决于系统设计。
如果只是把输入分类并送到相应入口,称为 Routing(路由分发);目标也可以是普通函数或固定流程,不一定是另一个 Agent。Handoff 还需要考虑接手后的控制权和上下文传递。
3.3 Orchestrator-Workers:子任务无法提前固定时再动态拆分
如果用户提出"调查最近一周金币未到账投诉增加的原因",需要调查哪些系统、拆出多少个子任务,可能取决于初步结果。
这时可以由编排者分析具体目标,动态拆分并分派工作,再汇总结果。这种组织方式称为 Orchestrator-Workers(编排者与执行者)。
text
一周异常调查
↓
Orchestrator 根据任务拆分工作
├── 支付统计
├── 发放失败分析
└── 发布与日志分析
↓
收集各项结果,决定是否继续调查
它强调子任务随输入动态产生,与 Supervisor 的集中协调可以重叠。Workers 可以是 Agent,也可以是普通程序;只有普通程序执行子任务时,这种编排本身不构成多 Agent 协作。
对于单笔订单的固定查询,通常不需要这层动态拆分。
3.4 并行取决于依赖,不取决于 Agent 数量
独立的支付统计、日志分析和发布记录查询可以并行。但如果发放排查需要先确认支付有效,就必须保留先后依赖,不能因为引入多个 Agent 就跳过业务前置条件。
理解这几种方式时,不必把它们当成互斥类别:Supervisor 可以动态拆分工作,某个阶段也可以发生 Handoff。真正要明确的是谁分派任务、谁持有处理权,以及哪些步骤依赖前面的结果。
无论采用哪一种方式,另一个 Agent 接手时都需要足够的信息。下面具体看应该传递什么。
四、Agent 之间应该交接什么?
只传"你继续处理"往往不够。下一个 Agent 需要知道目标、关键事实、证据来源和约束。
例如,支付调查已确认订单 1001 已支付,现在委托发放 Agent 继续排查,可以传递:
json
{
"task_id": "task-1001",
"target_agent": "grant_agent",
"goal": "排查金币未到账原因",
"constraints": ["仅调查并返回证据,不执行金币补发"],
"facts": {
"order_id": "1001",
"payment_status": "PAID"
},
"evidence": [{
"source": "get_order_status",
"result": "PAID"
}]
}
这类交接消息是信息,不是授权凭证。constraints 描述子任务范围,不能替代执行层的权限检查。目标 Agent 执行业务工具时仍须使用可信认证上下文重新校验权限。
也不应该默认传递全部历史。Token 是模型处理文本的计量单位,过量上下文会增加 Token 用量、信息干扰和敏感数据暴露风险。优先传递完成子任务必需的目标、事实、证据与约束。
后端中组织模型调用、工具执行、状态维护和执行控制的程序,称为 Runtime(智能体运行时)。关键状态应由 Runtime 或协调层依据可信工具结果维护,而不是仅靠模型自然语言摘要。
五、回到订单案例:先选最简单的协作方式
介绍完协调与交接,再回到最初的问题:单笔订单排查是否真的需要多个 Agent?
先验证一个 Agent 使用现有工具能否稳定完成任务。仅需按问题类型分流时,可以增加 Routing;确实需要多个专业 Agent 独立调查或接手后续处理时,再选择协调与交接方式。
是否增加复杂度,应比较任务成功率、交接中的信息损失和协调成本,而不是按角色数量判断。Agent 数量不是质量指标。
到这里,我们解决的是"谁来调查、怎样传递结果"。但即使调查已经完成,也还有另一个问题:谁有权决定执行补发?这个问题与使用几个 Agent 无关,接下来单独讨论。
六、从排查到补发:为什么需要人参与?
6.1 先区分"已经查清"和"允许执行"
假设经过业务核对,已经确认订单有效、应得的 500 金币尚未发放。Agent 可以整理证据并建议补发,但"建议合理"和"已经获得执行授权"是两回事。
本篇假设业务规则要求运营人员批准,那么接下来的流程是:
text
Agent 整理证据并提出建议
↓
程序创建具体的补发申请
↓
有权限的运营人员查看申请
├── 拒绝 → 结束申请
└── 批准 → 程序复核业务状态,再执行补发
人的决定在这里改变了自动化流程的走向。这就是 Human-in-the-Loop(HITL,人机协同):在任务的特定节点引入人的输入、确认、审核、审批或接管,并让结果影响后续执行。
HITL 可以用于单 Agent,也可以用于多 Agent。本篇重点实现其中的人工审批环节。
6.2 先分清审批、审核和接管
这些形式解决不同的问题,不需要全部接入同一个系统:
| 形式 | 人参与什么 | 订单案例中的例子 |
|---|---|---|
| Human Input(人工输入) | 补充缺失的信息 | 用户提供订单编号 |
| Human Review(人工审核) | 检查、纠正或修改结果 | 客服核对排查报告是否有证据支持 |
| Human Approval(人工审批) | 批准或拒绝一个明确操作 | 有权限的运营人员审批补发 500 金币 |
| Human Takeover(人工接管) | 接手后续任务处理 | 复杂投诉转人工客服 |
升级给更有权限的人员处理,常称为 Human Escalation(升级处理),可以伴随审批或接管。本文先关注补发申请的审批,不要求实现所有形式。
用户确认意愿、业务审批权限、实际执行结果,是三个不同的概念。 用户说"请补发"表达了诉求,但不能代替运营审批;运营批准后,也还要由业务系统实际执行并核对结果。
6.3 人工批准也不能代替业务核对
前面的流程以"已经确认未发放"为前提。如果只看到下面的查询结果,还不能直接得出这个结论:
json
{
"order_id": "1001",
"payment_status": "PAID",
"grant_status": "FAILED",
"error_code": "GRANT_TIMEOUT"
}
GRANT_TIMEOUT 是教学自定义的发放业务错误码,不是支付渠道的官方错误码,也不表示本次查询接口超时。这里的 FAILED 表示调用记录被标记为失败,未必代表账务写入已经确定失败。
发放服务可能已经写入余额,却在返回确认时超时。如果重新发起一笔发放,可能重复入账。
因此,应先依据原操作标识查询可信账务记录,确认执行结果;需要重试时,复用业务幂等键。幂等是指同一笔业务操作重复提交时,不会重复产生业务效果。是否需要人工审批,再由业务规则决定。
人工批准不能消除结果不确定或重复发放的风险。 确认符合补发条件以后,审批还必须明确到底批准哪张订单、哪个用户、多少金币,这就是下一节要解决的问题。
七、审批必须绑定明确的操作范围
不能只记录"任务已获批准"。先创建一份明确的待审批申请,描述希望执行的操作,例如:
json
{
"request_id": "req-1001",
"operation": "grant_coins",
"order_id": "1001",
"target_user_id": "user-a",
"coin_amount": 500,
"reason": "账务已核对,订单应得金币尚未发放",
"status": "PENDING"
}
这里的 PENDING 表示申请仍在等待审批,不是已经获得授权。coin_amount 的单位是金币数量,不是支付金额。审批页面应展示完整操作范围;批准后,后端保存当时的参数快照,并绑定申请标识或版本。
如果审批人批准补发 500 金币,恢复时模型又提出补发 5000 金币,系统必须拒绝。批准 500 不等于批准任意数量。
审批后也必须重新验证业务状态:订单是否仍有效、是否已经发放、批准范围是否匹配、是否存在重复申请。有权限人员的审批可以提供该操作所需的业务授权,但不能替代认证、资源权限和业务正确性校验。
八、暂停、等待与恢复
审批范围明确后,还需要处理等待:运营人员可能几小时后才作出决定。后端应保存申请和任务进度,结束当前执行,等审批事件到来再继续。完整流程可以这样组织:
text
Agent 排查
↓
业务核对并创建补发申请
↓
持久化任务状态,进入等待
↓
有权限人员审批
├── 拒绝 → 结束申请
└── 批准
↓
验证审批身份与范围
↓
重新检查业务状态
↓
幂等执行补发
↓
核对结果并记录审计
Interrupt(暂停) :执行到等待点时保存必要状态,结束当前执行,而不是让 while 循环一直轮询审批。
Resume(恢复):审批事件到来后,根据任务状态、审批记录和执行位置继续。恢复不是简单地从头再跑,也不能假设外部操作一定没有发生。
恢复不保证从暂停的某一行之后直接继续。例如 LangGraph 恢复时可能重新执行包含中断的节点,暂停前的代码可能再次运行;有副作用的操作必须考虑幂等和重复执行。LangGraph Interrupts 文档
Checkpoint(检查点)是用于恢复的状态记录,保存必要的执行进度和上下文。完整的状态持久化与检查点将在第 06 篇深入讨论。
九、Python 实战:最小审批补发流程
本例用确定性 Python 代码演示申请、审批、批准范围校验和串行重复执行保护。不调用真实模型、支付服务或金币服务,也不实现多个 Agent 的协作。
程序在同一个进程中顺序模拟申请、人工批准和执行。打印"模拟等待点"后会立即运行后续代码,没有真实人工输入、进程暂停或中断恢复。先观察控制边界,再考虑接入审批页面和持久化。
完整代码放在文末附录。配套项目中的脚本为 demo/04-approval/approval_demo.py(相对于文章所在目录)。下面分段解释关键逻辑,代码片段需要结合完整程序阅读。
9.1 创建申请:从业务数据确定操作范围
本例用 GrantScope 保存操作、订单、目标用户和金币数量。@dataclass 是 Python 标准库提供的装饰器,可以根据字段生成初始化和比较等方法;frozen=True 阻止创建后的普通属性赋值。执行前可以比较申请范围与批准快照中的字段是否一致。申请的审批状态与执行状态单独维护。
python
@dataclass(frozen=True)
class GrantScope:
operation: str
order_id: str
target_user_id: str
coin_amount: int
创建申请时,用户和金币数量从模拟订单系统取得,不让模型随意填写。程序检查支付状态、数量和账户,并核对可信账务查询的本地替身 GRANTED_ORDERS。
这个集合在本例中代表已经确认的发放结果,不是从失败日志推断出来的状态。真实账务结果未知时,应停止自动补发并继续核对。
此处只校验订单与操作条件,尚未实现"谁有权为这张订单创建申请"的认证与资源授权。真实入口还要检查申请人的身份、租户和订单访问权限;从订单中取得目标用户,并不等于申请人已获授权。
同时区分两种重复:同一个申请编号不能重复创建;同一订单的同类操作已有待审批或已批准申请时,也拒绝再创建一张。已拒绝的申请保留记录,但可按业务条件重新申请。
9.2 审批:保存独立的批准范围快照
review_request() 检查审批人角色和申请状态。批准时,重新检查业务条件,再保存一份独立的快照:
python
scope = request.scope
approved_scope = GrantScope(
scope.operation, scope.order_id, scope.target_user_id, scope.coin_amount
)
APPROVALS[request_id] = ApprovalRecord(
request_id, approved_scope, reviewer["user_id"]
)
request.approval_status = ApprovalStatus.APPROVED
ApprovalRecord 同样是冻结的数据类,记录申请标识、批准范围和审批人。随后即使业务代码错误地替换了 request.scope,批准快照也不会跟着改变。
reviewer 在本例中是固定构造的可信认证上下文替身。真实服务必须验证审批人身份及其对目标业务的权限,不能采信模型或客户端自行提交的角色列表。审批页面显示的版本与提交批准的版本也应一致,避免用户看到的内容在批准前已经被改动。
9.3 执行:先比较批准范围,再复核当前业务
python
if request.scope != approval.approved_scope:
raise PermissionError("申请范围与批准快照不一致,必须重新申请审批")
这一步回答"现在请求执行的操作,是否就是当时批准的操作"。仅检查当前参数与订单一致还不够,因为它们可能一起变成另一张有效订单。
检查通过后,执行使用批准快照,并重新检查当前支付状态、目标用户、金币数量和是否已经发放。两类校验各有用途:批准快照确定授权范围,业务复核确定此刻是否仍满足执行条件。
如果审批期间后台已经完成发放,在当前业务条件仍通过校验的情况下,本申请会记为 ALREADY_GRANTED,不再增加余额。如果本申请此前执行成功,再次执行返回 ALREADY_EXECUTED。
这两个终态的重复调用返回已记录的执行结论,不会重新写入,也不重新查询当前业务状态。它们表示历史执行结果,不是此刻余额或支付状态的实时证明;需要最新状态时,应另行查询业务系统。
9.4 运行并观察结果
使用 Python 3.10 或以上,将附录完整代码保存为 approval_demo.py,在该文件所在目录打开终端:
bash
python3 approval_demo.py
Windows 用户可以按安装方式使用 python 或 py 替代 python3。示例仅依赖标准库,不需要 API Key。练习中若将审批改为拒绝却继续调用执行函数,会抛出 PermissionError;当前脚本未捕获这类异常,因此终端会显示异常堆栈,这是拒绝路径的预期表现。真实接口应将其转换为明确的错误响应。
正常路径输出如下:
text
[创建申请] PENDING
[模拟等待点] req-1001 (本例不暂停进程)
[模拟审批结果] APPROVED
[首次执行] GRANT_SUCCEEDED
[金币余额] 500
[重复执行] ALREADY_EXECUTED
[金币余额] 500
几个状态应分开理解:
| 类型 | 状态或返回值 | 含义 |
|---|---|---|
| 审批状态 | PENDING / APPROVED / REJECTED |
待审批、已批准或已拒绝 |
| 执行状态 | NOT_STARTED |
本申请尚未完成执行 |
| 执行状态 | SUCCEEDED |
本申请已完成模拟发放 |
| 执行状态 | ALREADY_GRANTED |
业务已由其他路径发放,本申请无需再次执行 |
| 返回值 | ALREADY_EXECUTED |
本申请之前已成功执行,本次没有重复发放 |
9.5 示例保证什么,不保证什么?
在未篡改可信存储、进程不中断的串行调用条件下,示例能展示:未批准不能执行、无审批角色不能批准、批准范围变化会被拒绝、有效重复申请被阻止,以及成功后的重试不会重复增加余额。
冻结的数据类不是安全存储机制。同一进程中能够任意修改 APPROVALS、账务数据或程序代码的调用方,仍可绕过这些控制。真实系统要保护审批记录的写入入口,使用版本校验、可信身份和审计记录维护授权边界。
申请去重检查、余额增加、发放标记和执行状态更新都是内存中的顺序操作,没有事务原子性、并发安全或跨进程持久性保障。生产环境需要数据库事务与唯一约束,或由可信账务服务接收稳定的业务幂等键,并核对最终结果。
本 Demo 没有实现真实审批页面、通知、持久化、跨进程恢复、申请人认证、租户隔离、审批有效期、取消或完整审计。范围变化被拒绝后,还需要生产系统提供取消旧申请、修改或重新申请的受控流程;本例只演示拦截,不实现这个完整生命周期。它限定一次补发为整张订单应得金币数量,不覆盖部分补发、多次合法补发或退款等业务规则。
十、Multi-Agent 与 HITL 怎样组合?
前面的 Python 示例只实现了审批控制。现在将它放回协作流程:调查可以由多个专业 Agent 分工,但审批和资产写入仍走同一条可信业务路径。下面是扩展方案,不是单笔订单处理必须具备的角色配置。
text
用户反馈金币未到账
↓
客服 Agent 接收任务
↓
Payment Agent 核实支付
↓
Grant Agent 查询发放记录
↓
业务规则判断是否需要补发
├── 否 → 返回结论
└── 是
↓
创建补发申请
↓
Human Approval
├── 拒绝 → 结束
└── 批准
↓
复核业务状态
↓
幂等执行补发
↓
核对最终结果
适合模型参与的工作包括理解用户描述、选择专业 Agent、调查日志、汇总证据和生成申请说明。
必须由可信程序控制的工作包括认证、权限、支付验证、补发金币数量、审批人身份、审批范围、幂等、余额变更和最终结果核对。
专业 Agent 负责调查和建议,可信业务系统负责授权边界与实际写入。
十一、生产级还需要考虑什么?
11.1 重复交接
多个 Agent 可能反复将任务交给彼此。需要限制交接次数、模型调用轮数、总时长和预算,并识别无效循环。
11.2 重复申请
两个 Agent 可能同时提出同一笔补发申请。本例用内存扫描演示订单与操作类型上的去重,但两个并发请求仍可能同时通过检查。真实系统需要数据库唯一约束、事务或等价控制,不应仅依靠提示词或"先查再写"。
11.3 审批超时
审批可能进入 APPROVED、REJECTED、EXPIRED 或 CANCELLED 等状态。需要区分"申请等待审批的期限"与"批准后允许执行的期限"。授权过期后应停止新执行,并按规则重新审批;本例未实现这些期限。
11.4 审批期间业务变化
后台重试可能已完成金币发放。审批通过后必须重新检查状态,不能直接补发。
即使先检查"尚未发放",检查与写入之间也可能发生并发发放。因此,复核不能单独消除竞争,最终写入仍需要账务服务的幂等约束或适当的事务机制。
11.5 任务恢复
等待审批可能持续数小时或数天。应持久化任务 ID、审批申请、已完成步骤、必要工具结果和恢复位置;审批事件触发恢复,而不是长期占用一个运行中的循环。
11.6 审计与可观测性
需要关联 Agent 调查、工具调用、申请创建、审批人、批准范围、执行尝试、重试和最终业务结果。模型生成的摘要不能替代可信审计记录。
十二、如何选型与评测?
先判断单 Agent 是否足够,再考虑专业差异、上下文隔离、独立子任务和协调成本。涉及高风险操作时,无论单 Agent 还是 Multi-Agent,都要有明确的授权和执行边界。
| 指标 | 检查什么 |
|---|---|
| Task Success Rate | 任务是否真正完成 |
| Routing Accuracy | 是否分配到合适的 Agent、工具或工作流入口 |
| Handoff Accuracy | 交接目标和事实是否准确 |
| Duplicate Action Rate | 是否重复执行操作 |
| Approval Violation Rate | 是否绕过审批或超出批准范围 |
| Average Model Calls | 平均模型调用次数 |
| P95 Latency | 95% 请求的延迟不超过的阈值;应区分自动处理耗时与人工等待时间 |
| Cost per Task | 单任务成本 |
安全约束应作为必须满足的条件,不能简单与速度和成本进行加权交换。
十三、面试与自查
Q1:什么是 Multi-Agent?
多个具备各自职责和决策能力的 Agent,通过协作、交接或协调机制共同完成任务。常见方式包括 Supervisor、Handoff 和 Orchestrator-Workers。是否采用要看专业差异、任务可拆分性和协调成本。
Q2:Supervisor 和 Handoff 有什么区别?
Supervisor 强调由协调者分配任务并汇总结果;Handoff 强调任务控制权从一个 Agent 转移给另一个 Agent。两者可以组合。
Q3:Planner-Executor 就是 Multi-Agent 吗?
不是。Planner-Executor(规划器---执行器)把"制定步骤计划"和"执行计划"分开,Planner 可以是模型,Executor 可以是普通程序,不必由两个 Agent 组成。
Q4:Agent 交接时应传递什么?
传递子任务目标、必要事实、证据来源和约束。不要默认传递全部历史,也不能把其他 Agent 的描述当成授权凭证。
Q5:什么是 HITL?
在自动化任务的关键节点引入人的输入、确认、审核、审批或接管。对敏感操作,应保存具体审批申请,并在恢复时验证身份、批准范围和业务条件。
Q6:为什么审批通过还需要重新校验?
审批期间业务状态可能变化,例如后台重试已成功发放。有权限人员的审批提供特定操作的业务授权,不能替代认证和资源权限校验,也不能证明此刻执行仍然正确。
Q7:怎样防止模型修改审批参数?
审批绑定操作类型、订单、目标用户、金币数量和申请标识,保存批准时的范围快照。执行比较当前申请与批准快照,再读取可信存储中的批准参数执行;变更范围则重新授权。
Q8:如何设计生产级金币未到账 Agent?
先区分调查与资产操作:Agent 查询订单、发放记录和日志;可信程序核实业务条件并创建申请;有权限人员审批;恢复时重新核对状态;由幂等业务服务执行补发;全过程持久化任务、审批和执行结果,并支持追踪与恢复。
十四、总结
Multi-Agent 解决复杂任务中的职责分工和协作问题;Human-in-the-Loop 解决自动化流程中的人工参与和控制问题。两者可以独立使用,也可以组合。
学完本文,可以根据实际遇到的问题,选择相应的组织或控制方式:
| 遇到的问题 | 考虑的方式 | 需要记住的边界 |
|---|---|---|
| 一个助手使用多个工具即可完成任务 | Single Agent | 多个工具不等于多个 Agent |
| 请求需要分到不同处理入口 | Routing | 目标可以是普通函数或工作流,不一定是 Agent |
| 多个专业 Agent 调查后需要统一汇总 | Supervisor | 委托子任务后,由协调者继续组织处理 |
| 后续任务应由另一个 Agent 接手 | Handoff | 转移处理权,同时传递必要事实、证据与约束 |
| 子任务范围需要根据具体目标动态确定 | Orchestrator-Workers | 动态拆分不等于必须并行,仍要检查依赖 |
| 缺少继续处理所需的信息 | Human Input | 补充信息不等于授予执行权限 |
| 报告或回复需要人工检查、纠正 | Human Review | 审核内容不等于批准资产操作 |
| 具体业务操作需要人工批准 | Human Approval | 绑定批准范围,执行前仍需复核业务状态 |
| 自动化无法继续或用户要求转人工 | Human Takeover | 交接任务进度,并明确后续处理责任 |
选型时先从简单方案开始,再根据需要增加分流、协作或人工参与。无论使用几个 Agent,都要分清:谁负责调查和建议,谁有权批准,谁负责实际执行与结果核对。
参考资料
- Anthropic --- Building Effective Agents
- OpenAI Agents SDK --- Handoffs
- OpenAI Agents SDK --- Human in the Loop
- LangGraph --- Interrupts
- LangGraph --- Multi-agent
- OWASP --- Agentic AI Security
附录:完整代码
以下代码与配套脚本一致,是单进程串行的内存教学示例。运行方法和能力边界见第九节。
python
"""审批教学示例:单进程、串行、内存模拟,不调用模型或真实资产服务。"""
from dataclasses import dataclass
from enum import Enum
class ApprovalStatus(str, Enum):
PENDING = "PENDING"
APPROVED = "APPROVED"
REJECTED = "REJECTED"
class ExecutionStatus(str, Enum):
NOT_STARTED = "NOT_STARTED"
SUCCEEDED = "SUCCEEDED"
ALREADY_GRANTED = "ALREADY_GRANTED"
@dataclass(frozen=True)
class GrantScope:
operation: str
order_id: str
target_user_id: str
coin_amount: int
@dataclass
class GrantRequest:
request_id: str
scope: GrantScope
reason: str
approval_status: ApprovalStatus = ApprovalStatus.PENDING
execution_status: ExecutionStatus = ExecutionStatus.NOT_STARTED
@dataclass(frozen=True)
class ApprovalRecord:
request_id: str
approved_scope: GrantScope
reviewer_id: str
ORDERS = {
"1001": {
"user_id": "user-a",
"payment_status": "PAID",
"coin_amount": 500,
}
}
# 可信账务查询的本地替身;不是模型从失败日志中推断出的结果。
GRANTED_ORDERS = set()
REQUESTS = {}
APPROVALS = {}
BALANCES = {"user-a": 0}
def validate_scope(scope):
if scope.operation != "grant_coins":
raise ValueError("不支持的操作")
if type(scope.coin_amount) is not int or scope.coin_amount <= 0:
raise ValueError("金币数量必须为正整数")
order = ORDERS.get(scope.order_id)
if order is None:
raise ValueError("订单不存在")
if order["payment_status"] != "PAID":
raise ValueError("支付状态不满足要求")
if order["user_id"] != scope.target_user_id:
raise ValueError("目标用户与订单不一致")
if order["coin_amount"] != scope.coin_amount:
raise ValueError("金币数量与订单不一致")
if scope.target_user_id not in BALANCES:
raise ValueError("目标账户不存在")
def create_grant_request(request_id, order_id, reason):
if request_id in REQUESTS:
raise ValueError("申请编号已存在")
order = ORDERS.get(order_id)
if order is None:
raise ValueError("订单不存在")
scope = GrantScope(
operation="grant_coins",
order_id=order_id,
target_user_id=order["user_id"],
coin_amount=order["coin_amount"],
)
validate_scope(scope)
if order_id in GRANTED_ORDERS:
raise ValueError("订单已经发放")
for existing in REQUESTS.values():
same_operation = (
existing.scope.operation == scope.operation
and existing.scope.order_id == scope.order_id
)
if same_operation and existing.approval_status in {
ApprovalStatus.PENDING, ApprovalStatus.APPROVED
}:
raise ValueError("同一订单已有待审批或已批准的补发申请")
request = GrantRequest(request_id, scope, reason)
REQUESTS[request_id] = request
return request
def review_request(request_id, reviewer, approve):
# reviewer 模拟可信认证上下文,不能从模型或客户端直接采信。
if not reviewer.get("user_id") or "grant_approver" not in reviewer.get("roles", []):
raise PermissionError("没有补发审批权限")
if type(approve) is not bool:
raise ValueError("审批决定必须为布尔值")
request = REQUESTS[request_id]
if request.approval_status != ApprovalStatus.PENDING:
raise ValueError("申请已经处理")
if not approve:
request.approval_status = ApprovalStatus.REJECTED
return request
validate_scope(request.scope)
if request.scope.order_id in GRANTED_ORDERS:
raise ValueError("订单已发放,无需批准补发")
# 保存独立的批准范围快照;不随 request.scope 的替换而改变。
scope = request.scope
approved_scope = GrantScope(
scope.operation, scope.order_id, scope.target_user_id, scope.coin_amount
)
APPROVALS[request_id] = ApprovalRecord(
request_id, approved_scope, reviewer["user_id"]
)
request.approval_status = ApprovalStatus.APPROVED
return request
def execute_approved_grant(request_id):
request = REQUESTS[request_id]
approval = APPROVALS.get(request_id)
if request.approval_status != ApprovalStatus.APPROVED or approval is None:
raise PermissionError("申请未获有效批准")
if request.request_id != request_id or approval.request_id != request_id:
raise PermissionError("审批申请标识不匹配")
if request.scope != approval.approved_scope:
raise PermissionError("申请范围与批准快照不一致,必须重新申请审批")
if request.execution_status == ExecutionStatus.SUCCEEDED:
return "ALREADY_EXECUTED"
if request.execution_status == ExecutionStatus.ALREADY_GRANTED:
return "ALREADY_GRANTED"
# 实际执行采用批准快照,并再次复核当前业务条件。
scope = approval.approved_scope
validate_scope(scope)
if scope.order_id in GRANTED_ORDERS:
request.execution_status = ExecutionStatus.ALREADY_GRANTED
return "ALREADY_GRANTED"
# 仅顺序模拟提交,不具备事务原子性或跨进程持久性。
BALANCES[scope.target_user_id] += scope.coin_amount
GRANTED_ORDERS.add(scope.order_id)
request.execution_status = ExecutionStatus.SUCCEEDED
return "GRANT_SUCCEEDED"
def main():
request = create_grant_request(
"req-1001", "1001", "账务已核对,订单应得金币尚未发放"
)
print("[创建申请]", request.approval_status.value)
print("[模拟等待点]", request.request_id, "(本例不暂停进程)")
reviewer = {"user_id": "operator-1", "roles": ["grant_approver"]}
review_request("req-1001", reviewer, approve=True)
print("[模拟审批结果]", request.approval_status.value)
print("[首次执行]", execute_approved_grant("req-1001"))
print("[金币余额]", BALANCES["user-a"])
print("[重复执行]", execute_approved_grant("req-1001"))
print("[金币余额]", BALANCES["user-a"])
if __name__ == "__main__":
main()
运行示例后,可以在练习副本中把审批决定改为拒绝,观察执行如何被拦截;再尝试批准后替换申请范围,验证程序是否拒绝超出批准快照的请求。最后模拟审批后后台已经发放,检查本申请是否转为无需再次执行。
协作决定谁处理任务,审批决定某个明确操作是否获准,实际执行仍需核对可信业务数据。把这三层关系分清楚,再接入模型、审批页面和持久化时就更容易判断各自职责。
下一篇
Agent开发 05|Context Engineering:每一轮给模型看什么?
下一篇将讨论 Context 与 Prompt 的区别、上下文组装、Token Budget、长上下文与信息冲突、压缩、Agent 交接,以及如何在订单排查和审批过程中保留关键事实与安全约束。