26. AI-Agent-技术架构:Harness、Runtime、Orchestrator、Framework

文章目录

  • 前言
    • [01 先看整体:Agent = Model + Harness + Tools + Memory + Environment](#01 先看整体:Agent = Model + Harness + Tools + Memory + Environment)
    • [02 拆开 Harness:一个 Agent 内部到底需要什么?](#02 拆开 Harness:一个 Agent 内部到底需要什么?)
      • [1. 上下文构建:让模型此刻知道该知道的事](#1. 上下文构建:让模型此刻知道该知道的事)
      • [2. Agent Loop:驱动模型和工具反复协作](#2. Agent Loop:驱动模型和工具反复协作)
      • [3. 工具路由与执行:把行动建议变成真实调用](#3. 工具路由与执行:把行动建议变成真实调用)
      • [4. 状态与 Memory:记住任务做到哪一步](#4. 状态与 Memory:记住任务做到哪一步)
      • [5. 权限与环境控制:限定 Agent 能做什么](#5. 权限与环境控制:限定 Agent 能做什么)
      • [6. 结果观察与验证:检查外部世界是否真的改变](#6. 结果观察与验证:检查外部世界是否真的改变)
      • [7. 失败处理与停止条件:决定重试、调整还是交接](#7. 失败处理与停止条件:决定重试、调整还是交接)
    • [03 Agent Runtime:Agent 在哪里运行,状态如何延续?](#03 Agent Runtime:Agent 在哪里运行,状态如何延续?)
    • [04 Execution Loop:AI 怎样从"提出行动"走到"完成任务"?](#04 Execution Loop:AI 怎样从“提出行动”走到“完成任务”?)
    • [05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?](#05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?)
    • [06 用客服投诉案例串起整套架构](#06 用客服投诉案例串起整套架构)
    • [07 构建 Harness 时,先把五件事做好](#07 构建 Harness 时,先把五件事做好)
    • 结语:把"会行动"变成"能交付"

前言

模型负责理解和推理,但要让 Agent 在真实环境里把任务做完,还需要工具、状态、运行环境和执行控制。Harness、Runtime、Orchestrator、Framework 描述的是这套系统里的不同职责。

模型能力持续增强,Agent 也开始从回答问题走向查询数据、操作文件、调用业务 API、运行代码和推进多步骤任务。但模型更聪明,不等于任务自然就能可靠完成。工具可能超时,状态可能丢失,权限可能不足,模型也可能把"我认为已经完成"误当成"系统里确实完成了"。

要理解 Agent 怎样从模型能力走向真实执行,可以从两个问题入手:一个 Agent 内部需要什么?这些组件又怎样通过 Runtime 和 Execution Loop 配合起来?

本文会先拆开 Harness,再区分 Harness、Runtime、Orchestrator 和 Framework 的职责。这里的划分是便于理解的工程模型,并非业界统一的标准定义。不同产品会把这些能力组合在不同层次。


01 先看整体:Agent = Model + Harness + Tools + Memory + Environment

可以用下面这个公式,快速理解一个能够执行任务的 Agent:

Agent = Model + Harness + Tools + Memory + Environment

这不是严格的数学公式,也不是所有系统都采用的标准架构。它把一个 Agent 完成任务所需的几类能力放在一起:

组成部分 负责什么 举例
Model 理解输入、推理、提出下一步行动 分析投诉原因,决定查询订单
Harness 组织模型与执行过程,管理反馈、状态、权限和验证 检查工具参数,记录进度,判断是否继续
Tools 让 Agent 能对外部系统采取行动或读取信息 搜索、Shell、数据库、CRM、业务 API
Memory 保存当前任务状态或以后可能需要的信息 已查订单、审批结果、用户偏好
Environment 提供 Agent 工作的实际运行空间及资源边界 容器、工作目录、网络、凭证、沙箱

其中 Model 是提出判断和行动建议的部分。它可以分析"订单延迟,可能需要查物流",但模型本身并不会自动访问订单系统。

Tools 是可调用的能力。工具执行查询或修改,再把结果返回给 Agent。工具接通不代表调用就一定安全、可靠;参数校验、权限检查、超时处理和结果解析仍然需要系统负责。

Memory 与 Context 相关,但不完全相同。Memory 通常指跨步骤或跨会话保留的信息;Context 指某一轮模型调用时实际看到的输入。Harness 可以从任务状态、对话历史、外部资料和 Memory 中选取信息,组成当前 Context。记忆存下来的内容也可能过时,涉及实时业务状态时,Agent 应重新查询权威系统。

Environment 是行动发生的地方。它决定 Agent 能访问哪些目录、网络、服务和计算资源。环境可以提供隔离和权限边界,但是否安全,取决于具体配置。

Harness 则负责把这些部分组织成可运行的任务过程。


02 拆开 Harness:一个 Agent 内部到底需要什么?

Harness 不是单一功能,而是围绕模型运行的一组程序、策略和基础设施。它让模型获得适当信息和工具,也负责接住每次行动产生的结果。

1. 上下文构建:让模型此刻知道该知道的事

模型每次运行只能依据当前提供的输入作答。对于多步骤任务,Harness 需要组织当前目标、约束、历史进展、相关资料、工具说明和上一步执行结果,形成适合本轮决策的上下文。

上下文并非越长越好。无关历史会增加成本,也可能让关键事实更难被模型使用。系统需要按任务检索、筛选、摘要和更新信息;当上下文不足时,也要能补充查询。

2. Agent Loop:驱动模型和工具反复协作

Agent Loop 是 Harness 中常见的运行机制。模型根据上下文提出答案或行动;如果提出工具调用,系统执行工具并把结果交回模型;模型再根据反馈决定下一步。

复制代码
准备上下文 → 调用模型 → 判断行动 → 执行工具 → 接收反馈

如果模型给出最终回答,循环可以结束;如果任务还没完成,循环继续;如果遇到权限或风险边界,系统可以暂停并交给人工。

Loop 描述的是行动如何一轮轮发生。它本身并不保证行动正确,也不自动提供权限、持久化和结果验证。Harness 还要为 Loop 准备运行条件,并管理每轮行动的后果。

3. 工具路由与执行:把行动建议变成真实调用

模型可能提出"查询订单"或"更新工单"。Harness 需要将调用路由到对应工具,校验参数和返回格式,并处理工具超时、报错或不可用等情况。

读操作与写操作的风险不同。查询订单通常可以直接执行;退款、删除数据、发送通知或修改合同,则可能需要更严格的权限、审批或二次确认。模型提出了工具调用,不代表系统就应该无条件执行。

4. 状态与 Memory:记住任务做到哪一步

任务状态回答的是"这项工作目前处于什么阶段":哪些步骤已经完成、哪些还没做、上次调用结果是什么、接下来要满足什么条件。

Memory 则用于保存后续任务可能需要的信息。两者可以由同一套存储实现,也可以分别管理。对于长任务,Harness 还要考虑把关键状态持久化,避免服务中断后丢失进度或重复执行已经成功的操作。

5. 权限与环境控制:限定 Agent 能做什么

Harness 需要结合 Environment 和工具权限,限定模型可以读取、写入或调用的资源。常见做法包括最小权限、沙箱、文件路径限制、网络访问控制、凭证隔离和敏感操作审批。

自然语言规则可以告诉模型"不要修改生产数据",但这句话本身无法强制阻止 API 调用。涉及高风险操作时,限制应由执行系统落实,而不能只寄希望于模型遵守提示。

6. 结果观察与验证:检查外部世界是否真的改变

工具返回"请求已受理",不一定代表业务目标已经达到;模型说"测试通过",也不等于测试实际运行过。Harness 应根据任务类型检查可验证的证据:运行测试、重新查询业务状态、检查文件、校验数据,或等待审批系统返回结果。

验证的依据应尽量来自实际执行结果或权威系统,而不是只来自模型对自身表现的描述。

7. 失败处理与停止条件:决定重试、调整还是交接

工具失败后,系统需要区分超时、参数错误、权限不足、业务规则拒绝和结果不确定等情况,再选择重试、修正、重新规划、等待或转交人工。

重试也要考虑副作用。对创建订单、退款、发送通知等可能重复产生影响的操作,不能无限重试。系统需要结合幂等键、操作记录和业务状态检查,降低重复执行风险。

任务开始前还应有明确的完成条件与停止条件。达到验收条件才能报告完成;无法继续时,应说明阻塞在哪里,而不是把部分完成描述成全部完成。


03 Agent Runtime:Agent 在哪里运行,状态如何延续?

Harness 关注模型周围的执行控制;Agent Runtime 关注 Agent 的运行环境和生命周期。Runtime 通常要回答:任务在哪里执行、使用什么资源、状态放在哪里、进程如何启动和停止、中断后能否恢复。

一个 Runtime 可能提供:

  • Agent 会话或进程的创建、调度与销毁;

  • 工作目录、容器或其他隔离环境;

  • 工具、模型和凭证的接入;

  • 任务状态、检查点和恢复能力;

  • 资源限制、并发控制和运行日志。

不同产品对 Runtime 的范围定义并不一致。有些 Runtime 只负责隔离执行和进程管理;有些平台也集成了工具路由、状态存储、权限策略甚至 Agent Loop。

因此,Runtime 和 Harness 可能交叠,但关注角度不同:Runtime 提供 Agent 运行所需的环境与生命周期管理;Harness 组织模型如何使用工具、上下文和反馈来推进任务。在实际系统里,两者可能属于同一个服务。


04 Execution Loop:AI 怎样从"提出行动"走到"完成任务"?

Execution Loop 可以理解为 Agent 执行任务时反复经历的工作循环。不同系统的命名和步骤会有差异,下面是一种便于分析的拆解:

第一步:Context,准备任务上下文

明确目标、约束、相关资料、任务状态和可用工具。如果关键事实缺失,系统可以先查询,或向用户询问。

第二步:Reason,推理下一步

模型根据当前上下文判断下一步行动。对于复杂任务,不一定要一次生成完整计划;可以先做一个有依据的动作,再根据真实反馈调整。

第三步:Act,检查并执行行动

模型提出工具调用后,Harness 检查工具是否可用、参数是否有效、操作是否在权限范围内,是否需要审批。通过控制后,Runtime 在合适的环境中执行工具。

第四步:Observe,读取执行反馈

系统读取工具结果,区分成功、失败、超时和不确定状态。不能只确认"工具被调用了",还要检查返回内容是否满足下一步需要。

第五步:Update,更新任务状态

记录已完成的步骤、关键结果、未解决的问题和下一步条件。长任务要将关键状态持久化,以支持暂停、恢复和交接。

第六步:Verify / Recover,验证并处理失败

根据任务类型检查结果。如果验证失败,系统决定是否重试、修正输入、重新规划、回滚或转交人工。对于可能产生副作用的调用,恢复策略必须考虑重复执行。

第七步:Finish,按完成条件结束

确认任务达到预先定义的验收条件后,Agent 才结束任务并报告结果。若只完成部分步骤,应明确说明已完成内容和剩余阻塞。

可以把完整执行过程概括为:

准备上下文 → 推理 → 检查权限 → 执行动作 → 观察结果 → 更新状态 → 验证与恢复 → 继续或结束

这不是要求每个系统都实现成七个独立模块,而是帮助检查执行链条有没有缺口。Runtime 可能承载其中的环境和状态管理,Harness 可能控制整个循环,Orchestrator 则可能负责多个步骤或 Agent 之间的衔接。


05 Harness、Runtime、Orchestrator、Framework,到底有什么区别?

四个词经常一起出现,是因为它们都可能参与一次 Agent 任务,但它们回答的问题不同。

概念 主要回答的问题 典型职责
Harness 当前 Agent 怎样在约束下执行并验证任务? 上下文组织、工具调用、反馈、权限检查、状态更新、失败处理、停止条件
Runtime Agent 在哪里运行,如何管理运行状态和生命周期? 会话、进程、工作区、资源、隔离、持久化与恢复
Orchestrator 多个步骤、任务或 Agent 如何协作? 拆分任务、路由、依赖关系、并发、审批节点、结果汇总
Framework / SDK 开发者用什么接口和组件构建 Agent? API、抽象、工具定义、中间件、工作流组件、调试工具

它们不是互斥的四种产品。Framework 可以包含一个基础 Loop;Runtime 可以内置 Harness 能力;Orchestrator 也可能负责启动 Agent Runtime。选型时应检查实际功能,而不是只看产品名。

Orchestrator 与 Agent Loop 也不相同。Loop 通常描述一个 Agent 内部"推理---行动---反馈"的反复过程;Orchestrator 更常处理任务步骤或多个执行者之间的调度。简单任务可能只需要一个 Loop;跨服务、跨 Agent 或带审批的长任务,才更需要明确的编排机制。


06 用客服投诉案例串起整套架构

假设客户投诉订单延迟,并要求赔偿。Agent 需要读取工单、核对订单与物流、依据规则计算处理方案,必要时走审批,最后更新工单并通知客户。

  1. Orchestrator

(如果系统采用单独编排层)安排先查订单和物流,再判断规则,之后根据金额决定自动处理或提交审批。

  1. Runtime

    启动任务,提供受控的工作环境、CRM 和订单系统工具,以及必要的任务状态存储。

  2. Harness

    整理工单和规则上下文,要求模型决定下一步;调用前检查权限,调用后读取真实结果并更新状态。

  3. Model

    分析事实和规则,提出查询、计算或提交审批等下一步行动。

  4. Tools

    实际读取 CRM、订单、物流和审批系统,或执行获准的业务更新。

  5. Memory / 状态存储

    保存已核验的信息、处理进度和审批结果,供后续步骤使用。

  6. Environment

    限制 Agent 能访问的系统与数据,避免它获得完成任务以外的权限。

  7. Framework / SDK

    可以为开发者提供实现这些 Agent、工具和工作流的代码接口;它本身不代表上面的控制都已配置妥当。

如果订单查询超时,Harness 可以按策略重试;如果订单与客户描述不一致,Agent 应继续查证,而不是猜测;如果赔偿超过授权范围,系统应暂停并走审批;如果更新请求超时,系统应先核对业务状态,再决定是否重试;最终还要重新查询工单或赔偿状态,确认操作已经落地。

这就是从模型建议到业务结果的关键差别:模型提供判断,工具连接外部系统,Runtime 提供运行条件,Harness 管理执行过程,Orchestrator(如有)组织跨步骤协作,验证机制确认结果。


07 构建 Harness 时,先把五件事做好

企业开始建设 Agent 时,可以先聚焦几项基础能力,而不是一开始就追求复杂的多 Agent 架构:

  1. 可靠性

任务超时、服务中断或工具失败后,状态能否恢复?副作用操作有没有幂等和核对机制?

  1. 安全性

Agent 能访问哪些数据、工具和环境?哪些操作需要审批?权限是否符合最小化原则?

  1. 可观测性

能否追踪任务步骤、工具调用、错误、耗时和结果?排查问题需要的记录是否齐全?

  1. 可评估性

是否有真实任务样例和验收标准?模型、工具或策略更新后,能否检查质量变化?

  1. 可运营性

上线后能否监控失败、人工接管、成本和安全事件?出现问题时能否暂停、回滚或切换?

可靠性不只看模型答得是否正确,还要看任务是否完成、执行是否合规、失败是否可恢复,以及结果是否有证据。


结语:把"会行动"变成"能交付"

Agent = Model + Harness + Tools + Memory + Environment 是一种理解执行型 Agent 的简洁方式。模型负责推理,工具提供行动能力,Memory 和状态支持跨步骤工作,Environment 提供运行空间,而 Harness 把这些部分组织成受控的执行过程。

Agent Runtime 负责提供运行环境和生命周期管理;Execution Loop 描述模型、工具与反馈如何反复协作;Orchestrator 组织多个步骤或参与者;Framework 则帮助开发者构建这些能力。它们的边界会因实现而变化,实际系统也可能把多种职责放在一起。

判断 Agent 是否真正能把活干完,可以看一个简单标准:它是否在明确的权限和规则范围内执行,是否根据真实结果更新状态,是否能处理失败,并且能用可检查的证据确认任务完成。


本文的引用仅限自我学习如有侵权,请联系作者删除。

参考知识

一文搞懂 Agent 技术架构:Harness、Runtime、Orchestrator、Framework,到底有什么区别?


相关推荐
小码哥0681 分钟前
AI+能源管理系统如何用于工厂?云捷EMS能源管理系统功能与界面详解
人工智能·能源·能源管理系统·能耗监测·能源管理系统源码·企业能源管理系统·ai+能源管理系统
墨林陌2 分钟前
AI 热点日报(2026-11-19):Anthropic 全球史上最大 IPO 上市,谷歌发布 Gemini 4 Neon
人工智能
用户95179422510296 分钟前
Agent Harness 工程(I5):权限与沙箱——让否决改变控制流
llm·agent
阿里云大数据AI技术19 分钟前
把可观测做成基础设施:阿里云 Elasticsearch 监控链路的一次彻底重构
人工智能
TDengine (老段)1 小时前
TDengine IDMP 预测、异常检测与数据插补
大数据·数据库·人工智能·时序数据库·tdengine·涛思数据·idmp
甲维斯2 小时前
GPT6.2“买家秀”来了,吼吼呵呵!
人工智能
艾莉丝努力练剑2 小时前
【AI大模型接入SDK】C++的SessionManager 线程安全
java·开发语言·前端·c++·人工智能·学习·安全
国科安芯2 小时前
CAN FD一升到5Mbps就误码:位定时、终端与共模的现场排查顺序——ASM1042S2S在星载分布式总线中的FAE实践
分布式·安全·架构·canfd·dcdc·抗辐射·载荷
一条Go3 小时前
边缘 Agent:为什么是它连出来,而不是平台连进去
后端·架构·github
RuoyiOffice3 小时前
SpringBoot3+Vue3 采购到付款:ERP、WMS与财务如何按同一来源协同
java·spring boot·架构·vue