文章目录
- 前言
-
- [01 先看整体:Agent = Model + Harness + Tools + Memory + Environment](#01 先看整体:Agent = Model + Harness + Tools + Memory + Environment)
- [02 拆开 Harness:一个 Agent 内部到底需要什么?](#02 拆开 Harness:一个 Agent 内部到底需要什么?)
-
- [1. 上下文构建:让模型此刻知道该知道的事](#1. 上下文构建:让模型此刻知道该知道的事)
- [2. Agent Loop:驱动模型和工具反复协作](#2. Agent Loop:驱动模型和工具反复协作)
- [3. 工具路由与执行:把行动建议变成真实调用](#3. 工具路由与执行:把行动建议变成真实调用)
- [4. 状态与 Memory:记住任务做到哪一步](#4. 状态与 Memory:记住任务做到哪一步)
- [5. 权限与环境控制:限定 Agent 能做什么](#5. 权限与环境控制:限定 Agent 能做什么)
- [6. 结果观察与验证:检查外部世界是否真的改变](#6. 结果观察与验证:检查外部世界是否真的改变)
- [7. 失败处理与停止条件:决定重试、调整还是交接](#7. 失败处理与停止条件:决定重试、调整还是交接)
- [03 Agent Runtime:Agent 在哪里运行,状态如何延续?](#03 Agent Runtime:Agent 在哪里运行,状态如何延续?)
- [04 Execution Loop:AI 怎样从"提出行动"走到"完成任务"?](#04 Execution Loop:AI 怎样从“提出行动”走到“完成任务”?)
-
- 第一步:Context,准备任务上下文
- 第二步:Reason,推理下一步
- 第三步:Act,检查并执行行动
- 第四步:Observe,读取执行反馈
- 第五步:Update,更新任务状态
- [第六步:Verify / Recover,验证并处理失败](#第六步:Verify / Recover,验证并处理失败)
- 第七步:Finish,按完成条件结束
- [05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?](#05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?)
- [06 用客服投诉案例串起整套架构](#06 用客服投诉案例串起整套架构)
- [07 构建 Harness 时,先把五件事做好](#07 构建 Harness 时,先把五件事做好)
- 结语:把"会行动"变成"能交付"
前言

模型负责理解和推理,但要让 Agent 在真实环境里把任务做完,还需要工具、状态、运行环境和执行控制。Harness、Runtime、Orchestrator、Framework 描述的是这套系统里的不同职责。
模型能力持续增强,Agent 也开始从回答问题走向查询数据、操作文件、调用业务 API、运行代码和推进多步骤任务。但模型更聪明,不等于任务自然就能可靠完成。工具可能超时,状态可能丢失,权限可能不足,模型也可能把"我认为已经完成"误当成"系统里确实完成了"。
要理解 Agent 怎样从模型能力走向真实执行,可以从两个问题入手:一个 Agent 内部需要什么?这些组件又怎样通过 Runtime 和 Execution Loop 配合起来?
本文会先拆开 Harness,再区分 Harness、Runtime、Orchestrator 和 Framework 的职责。这里的划分是便于理解的工程模型,并非业界统一的标准定义。不同产品会把这些能力组合在不同层次。
01 先看整体:Agent = Model + Harness + Tools + Memory + Environment
可以用下面这个公式,快速理解一个能够执行任务的 Agent:

Agent = Model + Harness + Tools + Memory + Environment
这不是严格的数学公式,也不是所有系统都采用的标准架构。它把一个 Agent 完成任务所需的几类能力放在一起:
| 组成部分 | 负责什么 | 举例 |
|---|---|---|
| Model | 理解输入、推理、提出下一步行动 | 分析投诉原因,决定查询订单 |
| Harness | 组织模型与执行过程,管理反馈、状态、权限和验证 | 检查工具参数,记录进度,判断是否继续 |
| Tools | 让 Agent 能对外部系统采取行动或读取信息 | 搜索、Shell、数据库、CRM、业务 API |
| Memory | 保存当前任务状态或以后可能需要的信息 | 已查订单、审批结果、用户偏好 |
| Environment | 提供 Agent 工作的实际运行空间及资源边界 | 容器、工作目录、网络、凭证、沙箱 |
其中 Model 是提出判断和行动建议的部分。它可以分析"订单延迟,可能需要查物流",但模型本身并不会自动访问订单系统。
Tools 是可调用的能力。工具执行查询或修改,再把结果返回给 Agent。工具接通不代表调用就一定安全、可靠;参数校验、权限检查、超时处理和结果解析仍然需要系统负责。
Memory 与 Context 相关,但不完全相同。Memory 通常指跨步骤或跨会话保留的信息;Context 指某一轮模型调用时实际看到的输入。Harness 可以从任务状态、对话历史、外部资料和 Memory 中选取信息,组成当前 Context。记忆存下来的内容也可能过时,涉及实时业务状态时,Agent 应重新查询权威系统。
Environment 是行动发生的地方。它决定 Agent 能访问哪些目录、网络、服务和计算资源。环境可以提供隔离和权限边界,但是否安全,取决于具体配置。
Harness 则负责把这些部分组织成可运行的任务过程。
02 拆开 Harness:一个 Agent 内部到底需要什么?
Harness 不是单一功能,而是围绕模型运行的一组程序、策略和基础设施。它让模型获得适当信息和工具,也负责接住每次行动产生的结果。

1. 上下文构建:让模型此刻知道该知道的事
模型每次运行只能依据当前提供的输入作答。对于多步骤任务,Harness 需要组织当前目标、约束、历史进展、相关资料、工具说明和上一步执行结果,形成适合本轮决策的上下文。
上下文并非越长越好。无关历史会增加成本,也可能让关键事实更难被模型使用。系统需要按任务检索、筛选、摘要和更新信息;当上下文不足时,也要能补充查询。
2. Agent Loop:驱动模型和工具反复协作
Agent Loop 是 Harness 中常见的运行机制。模型根据上下文提出答案或行动;如果提出工具调用,系统执行工具并把结果交回模型;模型再根据反馈决定下一步。
准备上下文 → 调用模型 → 判断行动 → 执行工具 → 接收反馈
如果模型给出最终回答,循环可以结束;如果任务还没完成,循环继续;如果遇到权限或风险边界,系统可以暂停并交给人工。
Loop 描述的是行动如何一轮轮发生。它本身并不保证行动正确,也不自动提供权限、持久化和结果验证。Harness 还要为 Loop 准备运行条件,并管理每轮行动的后果。
3. 工具路由与执行:把行动建议变成真实调用
模型可能提出"查询订单"或"更新工单"。Harness 需要将调用路由到对应工具,校验参数和返回格式,并处理工具超时、报错或不可用等情况。
读操作与写操作的风险不同。查询订单通常可以直接执行;退款、删除数据、发送通知或修改合同,则可能需要更严格的权限、审批或二次确认。模型提出了工具调用,不代表系统就应该无条件执行。
4. 状态与 Memory:记住任务做到哪一步
任务状态回答的是"这项工作目前处于什么阶段":哪些步骤已经完成、哪些还没做、上次调用结果是什么、接下来要满足什么条件。
Memory 则用于保存后续任务可能需要的信息。两者可以由同一套存储实现,也可以分别管理。对于长任务,Harness 还要考虑把关键状态持久化,避免服务中断后丢失进度或重复执行已经成功的操作。
5. 权限与环境控制:限定 Agent 能做什么
Harness 需要结合 Environment 和工具权限,限定模型可以读取、写入或调用的资源。常见做法包括最小权限、沙箱、文件路径限制、网络访问控制、凭证隔离和敏感操作审批。
自然语言规则可以告诉模型"不要修改生产数据",但这句话本身无法强制阻止 API 调用。涉及高风险操作时,限制应由执行系统落实,而不能只寄希望于模型遵守提示。
6. 结果观察与验证:检查外部世界是否真的改变
工具返回"请求已受理",不一定代表业务目标已经达到;模型说"测试通过",也不等于测试实际运行过。Harness 应根据任务类型检查可验证的证据:运行测试、重新查询业务状态、检查文件、校验数据,或等待审批系统返回结果。
验证的依据应尽量来自实际执行结果或权威系统,而不是只来自模型对自身表现的描述。
7. 失败处理与停止条件:决定重试、调整还是交接
工具失败后,系统需要区分超时、参数错误、权限不足、业务规则拒绝和结果不确定等情况,再选择重试、修正、重新规划、等待或转交人工。
重试也要考虑副作用。对创建订单、退款、发送通知等可能重复产生影响的操作,不能无限重试。系统需要结合幂等键、操作记录和业务状态检查,降低重复执行风险。
任务开始前还应有明确的完成条件与停止条件。达到验收条件才能报告完成;无法继续时,应说明阻塞在哪里,而不是把部分完成描述成全部完成。
03 Agent Runtime:Agent 在哪里运行,状态如何延续?
Harness 关注模型周围的执行控制;Agent Runtime 关注 Agent 的运行环境和生命周期。Runtime 通常要回答:任务在哪里执行、使用什么资源、状态放在哪里、进程如何启动和停止、中断后能否恢复。

一个 Runtime 可能提供:
-
Agent 会话或进程的创建、调度与销毁;
-
工作目录、容器或其他隔离环境;
-
工具、模型和凭证的接入;
-
任务状态、检查点和恢复能力;
-
资源限制、并发控制和运行日志。
不同产品对 Runtime 的范围定义并不一致。有些 Runtime 只负责隔离执行和进程管理;有些平台也集成了工具路由、状态存储、权限策略甚至 Agent Loop。
因此,Runtime 和 Harness 可能交叠,但关注角度不同:Runtime 提供 Agent 运行所需的环境与生命周期管理;Harness 组织模型如何使用工具、上下文和反馈来推进任务。在实际系统里,两者可能属于同一个服务。
04 Execution Loop:AI 怎样从"提出行动"走到"完成任务"?
Execution Loop 可以理解为 Agent 执行任务时反复经历的工作循环。不同系统的命名和步骤会有差异,下面是一种便于分析的拆解:

第一步:Context,准备任务上下文
明确目标、约束、相关资料、任务状态和可用工具。如果关键事实缺失,系统可以先查询,或向用户询问。
第二步:Reason,推理下一步
模型根据当前上下文判断下一步行动。对于复杂任务,不一定要一次生成完整计划;可以先做一个有依据的动作,再根据真实反馈调整。
第三步:Act,检查并执行行动
模型提出工具调用后,Harness 检查工具是否可用、参数是否有效、操作是否在权限范围内,是否需要审批。通过控制后,Runtime 在合适的环境中执行工具。
第四步:Observe,读取执行反馈
系统读取工具结果,区分成功、失败、超时和不确定状态。不能只确认"工具被调用了",还要检查返回内容是否满足下一步需要。
第五步:Update,更新任务状态
记录已完成的步骤、关键结果、未解决的问题和下一步条件。长任务要将关键状态持久化,以支持暂停、恢复和交接。
第六步:Verify / Recover,验证并处理失败
根据任务类型检查结果。如果验证失败,系统决定是否重试、修正输入、重新规划、回滚或转交人工。对于可能产生副作用的调用,恢复策略必须考虑重复执行。
第七步:Finish,按完成条件结束
确认任务达到预先定义的验收条件后,Agent 才结束任务并报告结果。若只完成部分步骤,应明确说明已完成内容和剩余阻塞。
可以把完整执行过程概括为:
准备上下文 → 推理 → 检查权限 → 执行动作 → 观察结果 → 更新状态 → 验证与恢复 → 继续或结束
这不是要求每个系统都实现成七个独立模块,而是帮助检查执行链条有没有缺口。Runtime 可能承载其中的环境和状态管理,Harness 可能控制整个循环,Orchestrator 则可能负责多个步骤或 Agent 之间的衔接。
05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?
四个词经常一起出现,是因为它们都可能参与一次 Agent 任务,但它们回答的问题不同。

| 概念 | 主要回答的问题 | 典型职责 |
|---|---|---|
| Harness | 当前 Agent 怎样在约束下执行并验证任务? | 上下文组织、工具调用、反馈、权限检查、状态更新、失败处理、停止条件 |
| Runtime | Agent 在哪里运行,如何管理运行状态和生命周期? | 会话、进程、工作区、资源、隔离、持久化与恢复 |
| Orchestrator | 多个步骤、任务或 Agent 如何协作? | 拆分任务、路由、依赖关系、并发、审批节点、结果汇总 |
| Framework / SDK | 开发者用什么接口和组件构建 Agent? | API、抽象、工具定义、中间件、工作流组件、调试工具 |
它们不是互斥的四种产品。Framework 可以包含一个基础 Loop;Runtime 可以内置 Harness 能力;Orchestrator 也可能负责启动 Agent Runtime。选型时应检查实际功能,而不是只看产品名。
Orchestrator 与 Agent Loop 也不相同。Loop 通常描述一个 Agent 内部"推理---行动---反馈"的反复过程;Orchestrator 更常处理任务步骤或多个执行者之间的调度。简单任务可能只需要一个 Loop;跨服务、跨 Agent 或带审批的长任务,才更需要明确的编排机制。
06 用客服投诉案例串起整套架构
假设客户投诉订单延迟,并要求赔偿。Agent 需要读取工单、核对订单与物流、依据规则计算处理方案,必要时走审批,最后更新工单并通知客户。

- Orchestrator
(如果系统采用单独编排层)安排先查订单和物流,再判断规则,之后根据金额决定自动处理或提交审批。
-
Runtime
启动任务,提供受控的工作环境、CRM 和订单系统工具,以及必要的任务状态存储。
-
Harness
整理工单和规则上下文,要求模型决定下一步;调用前检查权限,调用后读取真实结果并更新状态。
-
Model
分析事实和规则,提出查询、计算或提交审批等下一步行动。
-
Tools
实际读取 CRM、订单、物流和审批系统,或执行获准的业务更新。
-
Memory / 状态存储
保存已核验的信息、处理进度和审批结果,供后续步骤使用。
-
Environment
限制 Agent 能访问的系统与数据,避免它获得完成任务以外的权限。
-
Framework / SDK
可以为开发者提供实现这些 Agent、工具和工作流的代码接口;它本身不代表上面的控制都已配置妥当。
如果订单查询超时,Harness 可以按策略重试;如果订单与客户描述不一致,Agent 应继续查证,而不是猜测;如果赔偿超过授权范围,系统应暂停并走审批;如果更新请求超时,系统应先核对业务状态,再决定是否重试;最终还要重新查询工单或赔偿状态,确认操作已经落地。
这就是从模型建议到业务结果的关键差别:模型提供判断,工具连接外部系统,Runtime 提供运行条件,Harness 管理执行过程,Orchestrator(如有)组织跨步骤协作,验证机制确认结果。
07 构建 Harness 时,先把五件事做好
企业开始建设 Agent 时,可以先聚焦几项基础能力,而不是一开始就追求复杂的多 Agent 架构:

- 可靠性
任务超时、服务中断或工具失败后,状态能否恢复?副作用操作有没有幂等和核对机制?
- 安全性
Agent 能访问哪些数据、工具和环境?哪些操作需要审批?权限是否符合最小化原则?
- 可观测性
能否追踪任务步骤、工具调用、错误、耗时和结果?排查问题需要的记录是否齐全?
- 可评估性
是否有真实任务样例和验收标准?模型、工具或策略更新后,能否检查质量变化?
- 可运营性
上线后能否监控失败、人工接管、成本和安全事件?出现问题时能否暂停、回滚或切换?
可靠性不只看模型答得是否正确,还要看任务是否完成、执行是否合规、失败是否可恢复,以及结果是否有证据。
结语:把"会行动"变成"能交付"
Agent = Model + Harness + Tools + Memory + Environment 是一种理解执行型 Agent 的简洁方式。模型负责推理,工具提供行动能力,Memory 和状态支持跨步骤工作,Environment 提供运行空间,而 Harness 把这些部分组织成受控的执行过程。
Agent Runtime 负责提供运行环境和生命周期管理;Execution Loop 描述模型、工具与反馈如何反复协作;Orchestrator 组织多个步骤或参与者;Framework 则帮助开发者构建这些能力。它们的边界会因实现而变化,实际系统也可能把多种职责放在一起。
判断 Agent 是否真正能把活干完,可以看一个简单标准:它是否在明确的权限和规则范围内执行,是否根据真实结果更新状态,是否能处理失败,并且能用可检查的证据确认任务完成。
本文的引用仅限自我学习如有侵权,请联系作者删除。
参考知识
一文搞懂 Agent 技术架构:Harness、Runtime、Orchestrator、Framework,到底有什么区别?