全教程关键词速查。按主题分组,每个词条标注了最相关的章节, 被术语绕晕时随手一查,就知道该回看哪一章。
1. 概念与循环
| 术语 | 含义 | 章节 |
|---|---|---|
| Agent(智能体) | 有目标、能行动、能迭代的自主系统;LLM Agent 以模型为大脑 | 01 |
| Workflow(工作流) | 代码写死执行路径的确定性流程;与 Agent 是谱系关系 | 01 |
| ReAct | 在行动间穿插显式思考(Reasoning+Acting)的循环范式 | 02 |
| 感知-思考-行动-观察 | Agent 核心循环的四阶段 | 02 |
| Reflection(反思) | Agent 对自身输出/轨迹的自我评估与改进 | 02 |
| Planning(规划) | 把目标拆解为有序步骤;事前/动态重规划/分层 | 02 |
| Self-correction(自愈) | 模型看到工具错误后自行修正的能力 | 03、06 |
| LLM 应用 | 单次或固定流水线使用 LLM,不构成 Agent | 01 |
| RAG(检索增强生成) | 检索外部知识拼入上下文增强回答;是 Agent 的一件工具 | 01、04 |
| 提示链(Prompt Chaining) | 多步顺序处理、每步输出作为下步输入的工作流模式 | 02 |
| 路由(Routing) | 先用分类器判断任务类型,再分派给专用处理单元 | 02 |
| 并行化(Parallelization) | 拆分独立子任务同时处理再合并;分段 / 投票两种变体 | 02 |
| 评估-优化(Evaluator-Optimizer) | 生成器 + 评估器循环迭代直至达标的工作流模式 | 02 |
| 计划-执行(Plan-and-Execute) | 先拆解计划再执行,执行中按需重规划 | 02 |
| 推理模型(Reasoning Model) | 输出前先生成长思考链的模型;提升复杂推理但延迟/成本更高 | 02 |
| 扩展思考(Extended Thinking) | 推理模型在最终答案前生成内部思考链的机制 | 02 |
| LLMCompiler | 把计划建模为有向无环图、无依赖步骤并行执行的规划范式 | 02 |
| 循环状态机(Agent State Machine) | 把「感知-思考-行动-观察」循环显式化为可恢复、可测试的状态转移 | 02 |
2. 大模型接口
| 术语 | 含义 | 章节 |
|---|---|---|
| Chat Completion | 把消息数组映射到下一个 assistant 消息的模型接口 | 03 |
| Message | 一次对话里的一条消息(role + content) | 03 |
| token | 模型的最小处理单元;计价与上下文窗口的基本单位 | 03 |
| 上下文窗口 | 模型单次能处理的最大 token 数 | 03、04 |
| Lost in the middle | 模型对长上下文中段的利用率低于头尾的现象 | 03、05 |
| temperature / top_p | 采样随机性参数;决策型调用用低值 | 03 |
| Streaming(流式) | 逐 token 推送输出(SSE);改善体验与进度感知 | 03 |
| Structured Output | 约束模型输出为合法/符合 schema 的结构 | 03 |
| JSON mode(json_object) | 保证输出是合法 JSON 对象,但不保证符合 schema | 03 |
| response_format / json_schema | 结构化输出的请求参数;json_schema 是 schema 级保证 | 03 |
| function calling(工具调用) | 模型输出「调用哪个工具、传什么参数」的请求 | 03 |
| tool_calls / tool_call_id | 工具调用请求数组 / 调用配对 ID | 03 |
| tool_choice | 控制模型是否/如何选择工具(auto/none/required/指定) | 03 |
| finish_reason | 模型停止生成的原因(stop/tool_calls/length) | 03 |
| 嵌套工具调用(Nested Tool Calls) | 工具 A 的结果触发工具 B,分多轮 ReAct 往返 | 03 |
| 多模态输入 | 图像/音频/视频作为模型输入;content 用 ContentPart\[\] 表示 | 03、13 |
| 重试与退避(Retry with Backoff) | 对瞬时错误(429/5xx/网络)指数退避重试,确定性错误直接失败 | 02、03 |
| AbortSignal(中断) | 外部取消信号,中断 Agent 运行且不留半吊子状态 | 02、07 |
3. 工具系统
| 术语 | 含义 | 章节 |
|---|---|---|
| Tool / 工具 | 可被模型调用的原子操作(带 JSON Schema 入参) | 03 |
| ToolRegistry(工具注册中心) | 注册、校验、执行工具的组件 | 03、07 |
| JSON Schema | 描述 JSON 数据结构的规范;工具入参的契约 | 03 |
| tool_choice | 控制模型是否/必须调用工具 | 03 |
| 并行工具调用 | 模型一条消息里发多个 tool_calls,程序并行执行 | 03、06 |
| ToolContext | 工具执行时的依赖注入上下文 | 03、06 |
| 安全表达式求值 | 拒绝任意代码执行、只解析数学表达式的求值器 | 03、06、10 |
4. 记忆与上下文
| 术语 | 含义 | 章节 |
|---|---|---|
| 短期记忆 | 对话缓冲 + 上下文窗口,秒-分钟级 | 04 |
| 长期记忆 | 向量库等持久存储,天-年级 | 04 |
| 情景/语义/程序记忆 | 按内容分类:事件 / 事实 / 技能 | 04 |
| Embedding(嵌入) | 把文本映射为语义相近的向量 | 04 |
| 余弦相似度 | 向量夹角相似度,检索排序依据 | 04 |
| Top-k 检索 | 返回相似度最高的前 k 条记忆 | 04 |
| 向量库(Vector DB) | 存储向量并支持相似检索的数据库 | 04 |
| 滑窗(Conversation Buffer) | FIFO 丢弃最旧消息的短期记忆 | 04 |
| 摘要压缩(Summarization) | 把旧消息总结成摘要,压缩上下文 | 04 |
| MemGPT | 用操作系统分页思想管理 Agent 记忆的架构 | 04 |
| 上下文窗口管理 | 按 token 预算裁剪消息,避免超窗 | 04、07 |
| TokenEstimator | 启发式估算 token 数,供预算管理 | 03、04 |
| 上下文工程 | 在窗口内用最低成本、把最相关信息、以最优顺序呈现给模型 | 05 |
| 上下文预算 | 固定开销(系统提示/工具)与可变开销(历史/记忆)的分配 | 05 |
| Lost in the middle | (见第 03 章分组)模型对上下文中段的利用率低于头尾的现象 | 05 |
| Prompt Caching(提示缓存) | 相同前缀复用 KV 缓存,大幅降低重复输入成本 | 05 |
| 缓存友好布局 | 稳定前缀在前、动态内容在后,最大化缓存命中 | 05 |
| 动态工具子集 | 每轮只给模型当前可能用到的工具 | 05 |
| 关键点提取 | 把对话压缩为事实/决定/约束等结构化要点 | 05 |
| 分层摘要 | 摘要的摘要,金字塔式压缩无限对话 | 05 |
| 系统提示工程 | 角色/规则/安全约束构成 Agent 行为契约 | 05 |
| Agentic RAG | Agent 自主决定查询改写 / 多跳检索 / 迭代检索的 RAG 形态 | 04 |
| 记忆线程(Memory Thread) | 独立模型循环,把对话提炼成结构化记忆写入记忆库 | 04 |
| 记忆去重(De-duplication) | 写入前比对已有记忆,合并/拒绝重复条目,保证一致性 | 04 |
| 知识图谱记忆(KG Memory) | 用「实体+关系+属性」三元组建模记忆,支持多跳推理 | 04 |
| ANN(近似最近邻) | 牺牲少量召回率换取数量级速度提升的向量检索范式 | 21 |
| IVF(倒排索引) | 用 K-means 把向量空间切成格子,查询只搜最近的 nprobe 个格子 | 21 |
| HNSW | 分层小世界近邻图,召回/速度平衡最好,内存占用大 | 21 |
| PQ(乘积量化) | 把向量切成子空间分别量化压缩,亿级内存受限场景的标配 | 21 |
| 混合检索(Hybrid Search) | 向量(语义)+ 关键词 BM25(字面)两路召回再融合 | 21 |
| RRF(倒数排名融合) | 按排名而非打分绝对值融合多个结果集,稳健无参数 | 21 |
| 重排序(Rerank) | 对粗检候选用交叉编码器精排,取高精度 top-k | 21 |
| 交叉编码器(Cross-encoder) | query+doc 拼接一起编码,精度高但慢,用于重排阶段 | 21 |
| 双编码器(Bi-encoder) | query/doc 分别编码,快但精度低,用于召回阶段 | 21 |
| BM25 | 关键词检索的经典打分函数,精确匹配/专有名词靠它 | 21 |
| 向量数据库(Vector DB) | 存储向量并支持 ANN 检索的数据库(pgvector/Qdrant/Milvus 等) | 21 |
| 引用准确率(Citation Accuracy) | 回答引用的来源是否真实支持结论;RAG 的关键质量指标 | 04、10 |
| 模型路由(Model Routing) | 用一次轻量调用/规则判断意图,加载对应工具子集 | 05 |
5. 框架与生态
| 术语 | 含义 | 章节 |
|---|---|---|
| LangChain | 组件胶水库(模型/工具/RAG 抽象) | 06 |
| LangGraph | 显式状态图编排,检查点/时间旅行/人工介入 | 06 |
| CrewAI | 角色化多智能体团队,上手最快 | 06 |
| AutoGen / AG2 | 对话式多智能体开创者 | 06 |
| Microsoft Agent Framework | AutoGen + Semantic Kernel 的微软企业方向 | 06 |
| OpenAI Agents SDK | 循环型 harness,handoff + 三层护栏 | 06 |
| Claude Agent SDK | 自主 Agent,深度 MCP,生命周期钩子 | 06 |
| Handoff(交接) | Agent 把控制权转移给另一个 Agent | 06、07 |
| StateGraph(状态图) | 用节点/边/状态表达 Agent 控制流 | 06 |
6. 多智能体
| 术语 | 含义 | 章节 |
|---|---|---|
| Orchestrator(编排者) | 拆解、分派、汇总的领导者 Agent | 08 |
| Worker(工作者) | 执行子任务的成员 Agent | 08 |
| RoleAgent | 把一个 Agent 包装成团队成员的适配器 | 07、08 |
| MessageBus(消息总线) | Agent 间点对点/广播/黑板通信 | 07、08 |
| Blackboard(黑板) | 共享记忆区,隐式通信 | 02、07 |
| Debate(辩论) | 多 Agent 互相反驳/批评以提升质量 | 08 |
| A2A(Agent2Agent) | Agent 间通信协议(Linux 基金会治理) | 08 |
| Agent Card | A2A 里描述 Agent 能力的「名片」 | 08 |
7. MCP 与协议
| 术语 | 含义 | 章节 |
|---|---|---|
| MCP(Model Context Protocol) | 模型应用连接工具/数据的标准协议 | 09 |
| Host / Client / Server | MCP 三角色:应用 / 连接器 / 工具提供方 | 09 |
| Tools / Resources / Prompts | MCP 三类能力:行动 / 上下文 / 流程 | 09 |
| stdio 传输 | 子进程 + stdin/stdout 上的 JSON-RPC | 09 |
| Streamable HTTP | 基于 HTTP 的远程传输 | 09 |
| JSON-RPC 2.0 | MCP 的消息协议(请求/响应/通知) | 09 |
| initialize 握手 | 协商协议版本与能力的连接步骤 | 09 |
| tools/list / tools/call | MCP 的发现与调用方法 | 09 |
| 无状态核心 | 2026-07-28 规范:去掉常驻会话,每请求自带能力 | 09 |
| ACP(Agent Client Protocol) | 另一套 Agent 与 UI 交互的协议 | 13 |
8. 评测
| 术语 | 含义 | 章节 |
|---|---|---|
| 任务成功率 | 最终目标是否达成的指标 | 10 |
| 过程质量 | 工具选择/参数/决策轨迹是否合理 | 10 |
| 离线/在线评测 | 固定数据集 vs 真实流量 | 10 |
| LLM-as-a-Judge | 用模型当裁判打分 | 10 |
| 盲评 | 打乱顺序,避免位置偏差 | 10 |
| 轨迹评测 | 评估 Agent 的执行轨迹而非仅结果 | 10 |
| 最小回归集 | 几十条快速用例,每次改动都跑 | 10 |
| SWE-bench / GAIA / τ-bench | 代码/通用/客服等领域的知名基准 | 10 |
| Golden set(黄金数据集) | 人工标注标准答案的评测集 | 10 |
| 评测 harness | 数据集+运行器+断言+报告的最小评测脚手架 | 10 |
| 引用准确率 | (见第 04 章分组)回答引用的来源是否真实支持结论;RAG 的关键质量指标 | 04、10 |
9. 安全
| 术语 | 含义 | 章节 |
|---|---|---|
| 提示注入(Prompt Injection) | 恶意指令操纵模型行为 | 11 |
| 直接/间接注入 | 用户输入注入 vs 外部内容注入 | 11 |
| 工具滥用 | 模型/攻击者利用工具做危险动作 | 11 |
| 沙箱(Sandbox) | 隔离执行环境,限制代码/工具副作用 | 11 |
| 护栏(Guardrails) | 输入/工具/输出等关键节点的安全策略 | 11 |
| 过度代理(Excessive Agency) | Agent 被授予过多权限与自主度 | 11 |
| OWASP LLM Top 10 | LLM 应用十大安全风险的行业清单 | 11 |
| 最小权限 | 凭证与工具只覆盖任务所需 | 11 |
| 人工确认(审批) | 高危操作暂停等待人工批准 | 11、12 |
| 供应链攻击 | 恶意 MCP 服务器/依赖/模型 | 09、11 |
| 身份/授权(AuthN/AuthZ) | 认证「是谁」+ 授权「能做什么」;Agent 必须知道「代表谁行动」 | 11 |
| 红队演练(Red Teaming) | 用攻击者视角主动测 Agent,漏洞固化为评测用例 | 11 |
| RAG 投毒(RAG Poisoning) | 在知识文档里预先埋入指令,污染任何检索到它的 Agent | 11 |
10. 生产与部署
| 术语 | 含义 | 章节 |
|---|---|---|
| 异步任务队列 | 慢速 Agent 任务排队给 worker 执行 | 12 |
| 可观测性三支柱 | 日志 / trace / metrics | 12 |
| Trace / Span | 一次运行的链路与每个环节 | 07、12 |
| Token 成本控制 | 裁剪上下文、动态工具子集、模型分级 | 12 |
| Human-in-the-loop | 关键节点人工介入 | 12 |
| 金丝雀发布 | 新版本灰度给少量流量 | 12 |
| 质量门禁 | CI 里的评测/安全/成本检查 | 10、12 |
| 断点续跑 | 进程重启后从中断点继续 | 06、12 |
| 弹性扩容 | 无状态 worker 按负载横向扩展 | 12 |
| Agent API 契约 | task_id + 显式状态 + requires_approval 的任务化接口 | 12 |
| 监控看板 | 按业务/成本/性能/可靠性/安全五维组织的生产指标视图 | 12 |
| 限流算法 | 令牌桶/滑动窗口/固定窗口等控制请求速率与配额的算法 | 12 |
| 成本公式 | C ≈ n×(P_in·r_in + P_out·r_out) + 工具成本,把成本优化映射为变量优化 |
12 |
11. 提示词工程
| 术语 | 含义 | 章节 |
|---|---|---|
| 提示词工程(Prompt Engineering) | 把「人类想让它做的事」翻译成「模型能稳定执行的指令」的工程学科 | 20 |
| 系统提示(System Prompt) | 设定模型角色/规则/安全约束的最高优先级指令 | 05、20 |
| Few-shot(少样本) | 给模型看 1--3 个「输入→正确输出」的例子,让它模仿 | 20 |
| CoT(思维链) | 让模型在结论前先写出中间推理步骤 | 02、20 |
| Zero-shot CoT | 一句「让我们一步一步想」触发推理 | 20 |
| Self-Consistency | 同一问题采样 N 次多数投票,提升稳定性 | 02、20 |
| 角色扮演(Role Prompting) | 用「你是...」限定模型立场与行为基调 | 20 |
| 提示模式目录 | 角色/步骤/格式/反向/自问自答/评估/切换/约束等可命名提示模式 | 20 |
| 指令可验证性 | 提示词里的每条规则都能写成评测断言 | 20 |
| 提示词版本化 | 把提示词当代码管理:Git、模板、版本号、一键回滚 | 05、20 |
12. 工程原则(第 22 章附录 I)
| 术语 | 含义 | 章节 |
|---|---|---|
| 工程原则(Principles) | 可命名的「该按什么标准做决定」的判断依据;与反模式互为镜像 | 22 |
| P-01 有目标+能行动+能迭代 | Agent 的最小定义,判断系统性质的第一问 | 01、22 |
| P-02 能确定就不用模型 | 确定的部分用代码/规则,不确定的部分才交给模型 | 01、22 |
| P-05 先单后多 | 多 Agent 必须由评测证明必要,一次只拆一个 | 08、22 |
| P-12 停止条件三问 | 正常结束 + 硬上限 + 预算上限,少一个就是烧钱 | 02、22 |
| P-13 循环是状态机 | 显式状态(消息+计数+预算)带来可恢复/可测试/可观测 | 02、22 |
| P-19 自建中间格式 | 不绑定任何厂商的 Message/ToolCall 契约 | 03、07、22 |
| P-23 工具参数必校验 | 模型输出是「需要校验的输入」,不是「模型的承诺」 | 03、11、22 |
P-27 tool_choice 是协议层约束 |
该防呆用 required,该路由指定工具;别把什么都设成 required |
03、22 |
| P-38 上下文是工作台不是存储 | 塞得越全越相关但越贵,本质是权衡 | 05、22 |
| P-57 没有评测就不是改进 | 评测是 Agent 工程的第一优先级 | 10、22 |
| P-58 结果+轨迹双重断言 | 过程对,结果才可持续;AgentResult.messages 是轨迹数据源 |
10、22 |
| P-60 能力边界是最后防线 | 别指望模型懂安全,要让系统在模型被骗时依然安全 | 11、22 |
| P-66 成本公式化 | C ≈ n×(P_in·r_in + P_out·r_out) + 工具成本,优化=改变量 |
12、22 |
拼音/字母快速索引
拼音/字母索引为速查辅助,词条位置以上文分组表为准;数字为章节号。 规则:英文/缩写词条按首字母归组,中文词条按拼音首字母归组。
A : A2A 08 · ACP 13 · AbortSignal(中断) 02、07 · Agent(智能体) 01 · Agent API 契约 12 · Agent Card 08 · Agentic RAG 04 · ANN 21 · AutoGen / AG2 06 · 安全表达式求值 03、06、10 B : Blackboard(黑板) 02、07 · BM25 21 · 版本化配置 12 · 辩论 08 · 并行工具调用 03、06 · 并行化 02 · 断点续跑 06、12 C : Chat Completion 03 · Claude Agent SDK 06 · CoT 02、20 · CrewAI 06 · 成本公式 12 · 成本控制 12 · 长期记忆 04 · 重排序 21 D : Debate(辩论) 08 · 短期记忆 04 · 动态工具子集 05 · 多模态输入 03、13 · 多智能体 08 · 倒排索引(IVF) 21 E : Embedding(嵌入) 04 · 弹性扩容 12 F : Few-shot 20 · Function Calling 03 · finish_reason 03 · 反模式 19 · 分层摘要 05 · 反思(Reflection) 02 G : Golden set(黄金数据集) 10 · Guardrails(护栏) 11 · 感知-思考-行动-观察 02 · 工作流 01 · 规划 02 · 工程原则 22 · 工具滥用 11 · 关键点提取 05 · 过程质量 10 · 过度代理 11 · 供应链攻击 09、11 H : Handoff 06、07 · HNSW 21 · Host / Client / Server 09 · Human-in-the-loop 12 · 黑板 02、07 · 滑窗 04 · 护栏 11 · 红队演练 11 · 混合检索 21 I : initialize 握手 09 · IVF(倒排索引) 21 J : JSON Schema 03 · JSON mode 03 · JSON-RPC 2.0 09 · Judge(LLM-as-a-Judge) 10 · 计划-执行 02 · 记忆 04 · 记忆线程 04 · 记忆去重 04 · 角色扮演 20 · 交叉编码器 21 · 结构化输出 03 · 金丝雀发布 12 · 监控看板 12 K : 可观测性三支柱 12 · 扩展思考 02 L : LangChain 06 · LangGraph 06 · LLM-as-a-Judge 10 · LLM 应用 01 · LLMCompiler 02 · Lost in the middle 03、05 · 离线/在线评测 10 · 流式 03 · 路由 02 M : MCP 09 · MemGPT 04 · Message 03 · MessageBus 07、08 · Microsoft Agent Framework 06 · 盲评 10 · 模型路由 05 N : 内积(MIPS) 21 O : OpenAI Agents SDK 06 · Orchestrator 08 · OWASP 11 P : Planning 02 · PQ(乘积量化) 21 · Prompt Caching 05 · Prompt Engineering 20 · Prompt Injection 11 · 评估-优化 02 · 评测 10 · 评测 harness 10 Q : 嵌套工具调用 03 · 情景/语义/程序记忆 04 R : RAG 04 · RAG 投毒 11 · ReAct 02 · Reflection(反思) 02 · Resources 09 · RoleAgent 07、08 · RRF 21 · 任务成功率 10 · 人工确认(审批) 11、12 S : Self-correction(自愈) 03、06 · Self-Consistency 02、20 · Server 09 · Span 07、12 · StateGraph 06 · Streaming 03 · Streamable HTTP 09 · Structured Output 03 · SWE-bench 10 · 沙箱 11 · 身份/授权 11 · 双编码器 21 · 上下文窗口 03、04 · 上下文窗口管理 04、07 · 上下文工程 05 · 上下文预算 05 T : token 03 · TokenEstimator 03、04 · Token 成本控制 12 · Tool 03 · ToolContext 03、06 · ToolRegistry 03、07 · Tools / Resources / Prompts 09 · Top-k 检索 04 · Trace 07、12 · temperature / top_p 03 · tool_calls / tool_call_id 03 · tool_choice 03 · 提示注入 11 · 提示链 02 · 提示词工程 20 · 提示模式目录 20 · 提示词版本化 05、20 · 推理模型 02 · 弹性扩容 12 U : (无) V : (无------向量相关词条在 X) W : Worker 08 · Workflow 01 · 无状态核心 09 X : 向量库 04 · 向量记忆 04 · 向量数据库 21 · 系统提示 05、20 · 系统提示工程 05 · 现状与未来 13 · 协作 08 · 行为契约 05 · 限流算法 12 · 循环状态机 02 Y : 遗忘 04 · 一致性(记忆) 04 · 引用准确率 04、10 · 越权 11 · 余弦相似度 04 · 异步任务队列 12 Z: 摘要压缩 04 · 知识图谱记忆 04 · 直接/间接注入 11 · 指令可验证性 20 · 智能体(见 Agent) 01 · 质量门禁 10、12 · 中期判断 13 · 自主度 11 · 最小回归集 10 · 最小权限 11