Agent 系统架构与核心技术要点

Agent 系统架构与核心技术要点

第一章 Agent 架构演进与七种经典范式

大模型应用从单轮问答向自主任务处理演进的过程中，逐步形成了复杂度逐级递增的七类智能体架构范式，覆盖从单兵执行到多主体协同的完整工程场景。

1.1 Single Agent（单智能体）

单智能体是最基础的智能体形态，由单个大语言模型挂载工具集与记忆模块构成，独立完成全流程任务处理，不存在多主体协作与任务拆分。其核心组成为推理引擎、工具调用接口、短期上下文记忆，典型运行模式为 ReAct 循环。

• 适用场景：简单问答、单步工具调用、基础知识库问答、个人助理类轻量任务
• 技术特点：实现成本低、链路简单、易于调试；复杂多步骤任务下存在规划能力不足、易走偏的局限

1.2 Plan-and-Execute（规划-执行范式）

规划执行范式将智能体拆分为规划器与执行器两个逻辑模块：规划器先对全局目标做拆解，生成有序的步骤清单；执行器按照计划逐步调用工具完成子任务，执行过程中允许动态回溯与重规划。

• 核心价值：解决单智能体"走一步看一步"的短视问题，提升长流程任务的完成度
• 衍生形态：Plan-and-Explore，在执行阶段允许探索式尝试与路径回溯
• 适用场景：长流程数据分析、研究报告生成、复杂代码开发等多步骤任务

1.3 Plan-Execute-Verify（规划-执行-校验）

在规划执行的基础上增加独立校验模块，每一步执行完成后对结果做合规性、正确性校验，校验不通过则触发重规划或重试，避免错误向下游传播。

• 设计原则：校验器与执行器逻辑隔离，可采用不同提示词或不同模型实现，避免"自审自判"的失效问题
• 适用场景：高可靠性要求的代码生成、数据处理、金融与医疗决策等场景

1.4 Router + Skills（路由+技能范式）

单个智能体内置路由模块，根据用户输入做意图分类，动态调度到内部不同的技能单元处理。各技能共享同一上下文与模型底座，属于单智能体内的能力拆分，而非多主体协作。

• 核心逻辑：入口做意图识别 → 匹配对应技能 → 执行专属业务逻辑
• 适用场景：多类型客服咨询、多模态统一入口、工具分类调度等业务

1.5 Orchestrator + Workers（编排器+工作者）

采用中心化调度架构：中央编排器负责全局意图理解、任务拆解与分发；多个专业工作者智能体各司其职，分别处理特定领域的子任务，结果回传编排器统一汇总输出。

• 架构特点：职责分离、专业分工，工作者之间不直接通信，全部经由编排器中转
• 适用场景：复杂业务流水线、多领域专家协同、标准化企业级智能体系统

1.6 Multi-Agent Collaboration（多智能体对等协作）

多个对等地位的智能体通过消息交互完成协作，无中央控制节点，模拟人类团队的沟通与分工模式。智能体之间可对话、辩论、交接任务、互补信息。

• 架构特点：去中心化、灵活度高、支持多视角碰撞
• 工程难点：易出现无意义循环对话，必须设置最大轮次、终止标识与熔断机制
• 适用场景：开放式创作、方案评审、多角色代码开发团队等

1.7 Ensemble + Parallel Exploration（集成并行探索）

针对同一目标，并行启动多个独立推理路径或智能体实例，从不同角度生成结果，最终由聚合模块通过投票、取优、融合等方式输出最终结论。

• 核心价值：通过多路径冗余降低幻觉与单点错误概率，提升答案可靠性
• 适用场景：高风险决策、医疗诊断、金融预测、复杂问题多源交叉验证

1.8 范式选型原则

• 简单单一场景优先采用单智能体，控制工程复杂度
• 多类型任务分流采用 Router + Skills 架构
• 长流程标准化业务采用 Plan-and-Execute 或 PEV 范式
• 多专业分工、强管控需求采用 Orchestrator + Workers
• 开放式协作、多视角论证采用对等多智能体
• 高可靠性要求采用集成并行方案

---

第二章 ReAct 单智能体推理执行范式

ReAct（Reason + Act）是单智能体最基础的执行范式，也是所有高级智能体架构的底层基石。其核心思想是将推理思考与工具行动交替进行，逐步逼近最终答案。

2.1 核心运行机制

ReAct 打破"模型一次性输出答案"的模式，将推理过程拆分为三个循环单元：

1. Thought（思考）：模型基于当前上下文，分析信息缺口，判断下一步需要执行的动作
2. Action（行动）：输出标准化工具调用指令，触发外部工具执行（检索、查询、计算等）
3. Observation（观察）：工具执行结果回填上下文，供下一轮思考使用

循环持续执行，直至模型判定信息充足，输出最终 Answer。完整链路为：

用户问题 → Thought → Action → Observation → ... → Answer

2.2 标准化输出格式

为便于程序解析与调度，ReAct 采用固定标识模板：

• Thought: 内部推理过程，解释当前判断与行动理由
• Action: 工具调用指令，包含工具名与入参
• Observation: 工具返回结果，由系统填充，非模型生成
• Answer: 最终答案，循环终止标识

2.3 技术价值与局限

2.3.1 优势

1. 从机制上降低幻觉：结论依托真实工具返回数据，而非模型静态知识
2. 多步骤任务可拆解执行，支持复杂问题逐步求解
3. 实现门槛低，仅通过提示词模板即可落地，兼容多数开源模型
4. 推理过程可观测，每步动作有日志留存，便于排障

2.3.2 局限

1. 缺乏全局规划能力，属于"走一步看一步"的线性模式，长任务易走偏
2. 无内置校验机制，工具返回错误数据时会直接传导至最终答案
3. 循环次数不可控，需人工设置最大迭代次数做熔断保护

2.4 衍生与演进

• Self-Ask：模型自主生成子问题并求解，是 ReAct 的轻量化变体
• ReAct + Reflection：在观察阶段增加自我校验，形成初步闭环
• Plan-and-Execute：前置全局规划环节，弥补 ReAct 短视缺陷

---

第三章 意图识别机制与路由设计

意图识别是智能体系统的入口核心模块，负责从用户输入中判定真实业务诉求，为后续路由调度提供依据。

3.1 基本概念

• 意图（Intent）：用户核心业务诉求的类别标签
• 槽位（Slot）：完成该意图所需的关键参数
• 意图路由：根据识别结果将请求分发至对应处理单元的过程

3.2 主流实现路线

3.2.1 规则与传统机器学习方案

通过关键词匹配、正则表达式或传统分类器（SVM、逻辑回归）实现意图判定。

• 优势：推理速度快、资源消耗低、结果完全可控
• 劣势：泛化能力弱，无法处理口语化、同义、复合问句，维护成本随业务量线性上升
• 适用：意图数量少、表述高度标准化的简单场景

3.2.2 大模型零样本/少样本方案

通过提示词定义全部意图列表与判定规则，由大模型直接输出分类结果，可同步抽取槽位。

• 优势：无需标注训练数据，新增意图仅需修改提示词，天然支持口语化与复合意图
• 劣势：高并发场景下推理成本高于专用分类模型
• 现状：是当前多数项目的首选落地方案

3.2.3 函数调用隐式意图识别

将每类意图封装为独立工具函数，模型自主判断并调用对应函数，本质是将意图识别融入工具选择过程，无需单独模块。

3.3 单意图与复合意图

• 单意图：一条用户输入仅包含一个业务诉求，处理逻辑为一对一调度
• 复合意图 ：一条输入包含多个独立诉求，需拆解后分别调度对应能力
  • 传统规则方案难以处理复合意图，大模型方案可天然支持多意图拆分与并行处理

3.4 在不同架构中的承载形式

1. Router + Skills 架构：意图识别是独立前置模块，负责静态分流
2. Orchestrator + Workers 架构：意图识别内置于编排器，伴随全局任务拆解动态执行，支持复合意图与多工作者协同
3. ReAct 单智能体：意图识别融合于 Thought 思考环节，属于隐式判断

3.5 效果评估与优化

• 核心指标：准确率、召回率、F1 值
• 优化手段：少样本示例增强、置信度阈值兜底、分层粗分+细分、混淆意图专项优化

---

第四章 上下文压缩工程实践

上下文压缩是长会话智能体的核心工程能力，目标是在有限上下文窗口内保留关键信息，支撑长周期任务持续运行。其本质不只是文本缩短，而是信息保真、版本可控、安全合规的系统工程。

4.1 信息分级与裁剪策略

压缩前需对上下文中的信息做优先级分层：

• 不可压缩信息（高优先级）：任务目标、用户硬性约束、权限授权范围、关键参数、核心决策依据
• 可压缩信息（中优先级）：工具返回长文本、中间推理过程、冗余对话内容
• 可裁剪信息（低优先级）：闲聊寒暄、重复表述、无价值铺垫

压缩原则：高优先级字段完整保留，中优先级做结构化摘要，低优先级优先精简或剔除。

4.2 结构化摘要实现

结构化摘要要求模型输出固定字段的标准化结果，而非自由文本，便于程序自动校验与溯源。

1. 固定字段设计：通常包含任务目标、用户约束、关键参数、工具摘要、引用标识、未完成事项等
2. 提示词约束：强制 JSON 格式输出，明确字段定义与填写规则
3. 字段完整性校验：压缩完成后程序侧校验必填字段，缺失则判定压缩失败，触发重试或回滚
4. 溯源绑定：每条摘要内容绑定原始数据引用 ID，支持回溯原文核验

4.3 长工具结果分层存储

对于超长工具返回内容，采用"原文落库 + 摘要入上下文"的分层方案：

1. 完整原始数据存入持久化存储，分配唯一引用 ID
2. 上下文窗口仅保留摘要信息与引用 ID
3. 模型需查阅细节时，通过 ID 反向拉取完整原文

该方案既节省窗口 token，又保留数据完整性，同时抑制摘要失真带来的幻觉风险。

4.4 压缩触发时机

压缩不宜频繁执行，通常在两类节点触发：

1. 容量触发：上下文 token 接近窗口阈值时自动执行
2. 阶段触发：完成一个完整任务阶段、一轮工具执行或一次自省校验后执行

关键决策、任务规划过程中禁止临时压缩，避免关键约束丢失导致任务跑偏。

4.5 版本管理与回滚机制

每次压缩生成独立版本快照，持久化记录：

• 压缩前完整上下文
• 压缩后摘要内容
• 本次压缩策略与触发原因

当压缩后出现任务失败、信息丢失、越权行为时，可依据版本号回滚至压缩前状态，保障线上稳定性。

4.6 安全与权限防护

权限、授权范围类字段必须标记为不可压缩，防止压缩过程中丢失权限边界引发越权操作。

故障处理流程：

1. 检测到越权风险立即下线当前压缩策略
2. 定位丢失字段，将权限类信息纳入不可压缩清单
3. 工具调用层增加二次权限校验，形成双重兜底

4.7 效果评估方法

采用对照实验评估压缩效果：

• 同一批测试任务，分别运行原始上下文与压缩上下文两条链路
• 对比指标：工具选择一致性、答案准确率、任务成功率
• 差异样本人工复盘，定位信息丢失点并迭代压缩策略

---

第五章 RAG 查询改写技术体系

查询改写是检索增强生成（RAG）召回阶段的核心优化手段，本质是在用户问句与知识库之间做语义对齐，将口语化、模糊化的用户输入转化为适配知识库检索的标准化语句，提升召回命中率。

5.1 语句规范化

最基础的改写形式，将口语化、带语气词、碎片化的用户提问转述为标准、专业、贴合知识库术语的检索语句。

• 核心约束：仅做语义转述，不得凭空新增业务信息，杜绝改写环节引入幻觉
• 适用：所有单意图简单问句，是高阶改写的前置基础步骤
• 特点：算力开销低、无额外检索链路

5.2 多查询变体

基于同一原始问题，生成 3~5 条不同语义角度、不同表述方式的检索变体，并行执行向量检索，合并结果后去重并经重排模型过滤噪声。

• 核心价值：单一问句语义覆盖有限，多角度变体可拓宽召回范围，降低漏检概率
• 工程链路：生成多变体 → 并行多路检索 → 合并去重 → Rerank 重排降噪
• 注意点：多路召回必然引入无关文档，必须搭配重排环节，否则会稀释上下文质量

5.3 子查询分解

针对包含多个独立诉求的复合问句，将其拆分为多条语义单一的子查询，分别检索后整合结果。

• 适用场景：一句多问、多条件组合查询、复合业务诉求
• 优势：拆分后子查询语义聚焦，检索精准度高于混杂多目标的长问句
• 代价：检索次数随子查询数量线性增长，需控制并发压力

5.4 假设文档嵌入（HyDE）

反向检索思路：不直接改写问句，而是让模型生成一段"假想中能够回答该问题的完整文档"，再将该假想文档向量化后执行检索。

• 原理：短问句语义信息稀疏，向量区分度低；完整假想文档语义更饱满，更容易匹配到真实相似文档
• 优势：对极短、冷门、语义稀疏的问句提升效果显著
• 短板：增加一轮大模型生成，时延与算力成本明显上升；假想文档可能引入错误语义，导致检索偏航

5.5 后退提示（Step-Back Prompting）

将具象、细节化的问题向上抽象，生成宏观背景类的高层问题，补充检索背景知识，辅助推导原始细节问题。

• 适用：细节问题无直接对应文档，但存在上层通用规范的场景
• 定位：作为补充检索手段，不单独使用，避免丢失用户原始诉求

5.6 工程组合策略

实际项目中通常根据问题类型组合使用：

1. 简单短问句：仅语句规范化
2. 常规问答：规范化 + 多查询变体 + 重排
3. 复合长问句：规范化 + 子查询分解
4. 冷门短问句：叠加 HyDE 做补充
5. 细节类问题：叠加后退提示做背景兜底

5.7 落地权衡原则

• 效果与时延负相关：高阶方案提升召回率，但会增加推理时延与算力成本
• 改写与重排配套：多路召回必须搭配重排过滤，否则收益会被噪声抵消
• 优先 Prompt 方案落地：无需训练数据，迭代灵活；高并发场景再考虑微调小模型优化成本

---

第六章 思维链（CoT）推理机制

思维链（Chain-of-Thought）是提示词工程领域的核心推理增强技术，通过引导模型显式输出中间推理步骤，提升复杂逻辑任务的准确率。

6.1 核心原理

大模型直接输出答案时，容易出现跳步、计算错误、逻辑遗漏；CoT 强制模型分步展示推理过程，模拟人类逐步思考的模式，显著降低多步骤任务的出错概率。

• 本质：属于提示词工程范畴，仅修改输入引导方式，不改动模型权重与架构
• 作用场景：数学计算、逻辑推理、多条件判断、复杂规则推导、任务规划

6.2 两类基础实现

6.2.1 Zero-shot CoT（零样本思维链）

仅在问题末尾追加一句通用引导语，无需提供示范样例。

• 典型引导："请分步思考，逐步推导后给出最终答案"
• 优势：零成本接入，全场景通用
• 局限：超复杂任务下推理深度与规整度有限

6.2.2 Few-shot CoT（少样本思维链）

在提示词中预置 2~4 组完整样例，每组遵循"问题→分步推理→答案"的固定格式，模型模仿样例输出推理过程。

• 优势：推理格式高度可控，复杂任务准确率提升更显著
• 代价：需要人工编写领域样例，新增业务场景需补充对应示例

6.3 在智能体体系中的应用

1. ReAct 思考环节：Thought 步骤本质就是 CoT，用于分析信息缺口、决策工具调用
2. 任务规划：Plan-and-Execute 模式下，规划器依靠 CoT 拆解子任务与执行顺序
3. 自省校验：Reflection 模块通过分步复盘，逐条核对依据、约束与完整性
4. RAG 答案生成：结合检索文档分步推导，每步标注引用来源，抑制幻觉

6.4 进阶衍生范式

1. 自一致性思维链（Self-Consistency）

   并行生成多条独立推理路径，通过投票选取占比最高的答案，降低单条推理偏差的影响。

2. 思维树（Tree of Thoughts）

   将推理组织为树状结构，每一步生成多个分支，对分支做评估与剪枝，探索最优解路径，适合多选择、多分支的复杂问题。

3. 思维图（Graph of Thoughts）

   支持推理路径之间的信息互通与交叉验证，适用于多模块协同的复杂推理场景。

6.5 优劣与权衡

6.5.1 优势

• 显著提升多步骤推理任务的准确率
• 推理过程可解释，便于问题定位与日志审计
• 纯提示词实现，落地成本极低，适配所有基座模型

6.5.2 代价

• 增加 token 消耗与推理时长，接口时延上升
• 简单问答场景使用属于性能冗余
• 小参数量模型下效果提升有限，易出现断链与跳步

工程原则：仅在复杂推理、多条件判断场景启用 CoT；简单问答保持直出模式，兼顾效果与性能。

---

第七章 多智能体通信架构设计

多智能体系统的通信机制决定了协作效率、可控性与安全性。工程上主要分为中心化调度与去中心化对等通信两类架构。

7.1 中心化调度通信（Orchestrator + Workers）

7.1.1 架构特征

所有子智能体不直接互通，消息全部经由中央编排器中转。编排器承担任务分发、结果汇总、异常管控、权限校验的全部职责。

• 工作者只与编排器交互，职责单一、易于迭代
• 编排器掌握全局视图，可做最优任务调度与流程管控

7.1.2 标准化消息结构

跨智能体消息采用统一结构体，确保收发双方可解析：

• 任务唯一标识、发送方、接收方
• 消息类型（任务指令、结果回执、异常报错、完成信号）
• 消息主体内容、引用资源 ID
• 权限范围标记、时间戳

7.1.3 优势与局限

• 优势：全局可控、日志完整、权限统一、易排障、无死循环风险
• 局限：编排器为单点瓶颈，高并发下需做无状态化与消息队列削峰
• 适用：企业级标准化业务、强管控要求的生产系统

7.2 去中心化对等通信

7.2.1 架构特征

各智能体地位对等，可直接双向收发消息，自主协商任务分工与信息交互，模拟人类团队的自由协作。

7.2.2 约束机制

自由通信必须配套熔断规则，否则易出现无意义循环对话：

1. 全局最大交互轮次限制，达到阈值强制终止
2. 角色权限约束，规定主动发起与被动响应的边界
3. 标准化终止标识，任意智能体发出完成信号后全局终止

7.2.3 优势与局限

• 优势：灵活度高、支持开放式协作与辩论，适配非标准化创意类任务
• 局限：管控弱、易跑偏、日志分散、排障难度高
• 适用：内容创作、方案评审、多视角论证等场景

7.3 底层传输载体

1. 内存状态存储：单机构建原型时使用，依托全局共享状态对象传递消息，简单直接但不可分布式部署
2. 消息队列中间件：生产级分布式方案，以 Topic 做任务隔离，支持异步解耦、削峰填谷与消息持久化
3. 会话持久化存储：Redis 存储全量会话消息，支持跨轮次共享与会话过期自动清理

7.4 通信层工程保障

7.4.1 权限与安全

• 消息携带权限范围标记，智能体仅可读取授权内的数据
• 敏感字段跨智能体传递时自动脱敏
• 非法格式、越权指令在通信入口即被拦截

7.4.2 可靠性机制

• 消息去重：基于任务 ID 与消息序号过滤重复投递
• 超时重试：单条消息处理超时触发重试或降级
• 故障隔离：单个智能体持续异常时，临时切断其通信通道，避免影响整体链路

7.4.3 终止机制

三类终止条件互相兜底：任务完成标识终止、最大轮次熔断终止、人工干预终止。

7.5 智能体通信提示词规范

每个智能体的系统提示词中需明确通信规则：

• 输出必须符合标准消息格式，禁止自由文本闲聊
• 仅传递职责范围内的信息，不得编造域外数据
• 信息不足时主动发起查询请求，不得臆测补全

---