AI 术语体系：13 个高频术语

AI 术语体系：从基础概念到智能体工程

AI 模型的普及使「会调用」与「懂原理」之间的差距逐步显现。仅停留在操作层面，难以判断输出的可靠性与成本边界；理解底层机制，则能据此优化提示词、配置参数并核验结论。

本文 13 个高频术语，按由基础到进阶的顺序组织：第一部分为 5 个基础概念，第二部分为 8 个智能体与生态相关概念，内容随技术演进同步更新。

第一部分 基础概念

一、词元（Tokens）

AI 模型不读取完整单词，也不识别单个字母，其处理信息的最小单位是词元（Token）。

词元是文本切分后的片段：一个片段可以是完整单词，可以是词根或词缀（如表示否定前缀的 un、表示名词后缀的 tion），也可以是标点符号。例如句子 I love pizza 会被切分为 3 个词元：I、 love、 pizza。

其重要性体现在以下方面：

• 所有 AI 产品均在后台统计词元数量，输入与输出词元越多，模型处理的工作量与运行成本越高。
• 上下文窗口（Context window）以词元为单位衡量，表示模型单次可纳入推理的文本总量。
• API 通常按每千词元计费，因此词元直接决定调用成本。

理解词元是理解提示词效果差异、长对话遗忘现象与计费规则的基础。

二、上下文窗口（Context window）

上下文窗口指模型单次能够读取并参考的全部文本总量，计量单位为词元，涵盖指令、对话历史、上传文档以及模型此前生成的全部回复。

可以把上下文窗口类比为白板尺寸：容量固定，写满后必须擦除旧内容才能写入新内容。因此对话一旦填满窗口，最早的词元会被清除，表现为长对话中的前文遗忘，其原理与计算机内存占满后性能下降一致。

窗口大小决定模型的处理边界：

• 小窗口（如 4 000 词元）只能处理少量文本，长文档需分段读取。
• 大窗口（如 100 万词元）可一次性载入整本书或完整代码库并直接提问。

技术演进方面，截至 2026 年，100 万词元上下文已成为旗舰模型的常规配置，多家厂商的旗舰模型均达到 1 000 000 词元量级。判断实际能力时需注意两点：

1. 标称上下文不等于有效上下文。 在 RULER、NoLiMa 等评测中，模型在标称超长窗口内的中段检索准确率会显著衰减（即「迷失在中间」现象），有效长度往往小于标称窗口。
2. 超长上下文的计价存在阈值。 部分模型在输入超过特定词元后整笔切换至长上下文计费档位，成本随之上升；亦有厂商采用全窗口统一价。长文本场景应结合检索与摘要的外部流程，以提升可靠利用率。

三、温度参数（Temperature）

temperature 是控制输出随机性与可预测程度的推理参数。其作用体现在对候选词元概率分布的调制上。设模型对词元 i i i 的原始得分为 z i z_i zi，则采样概率为：

p i = exp ⁡  ⁣ ( z i / T ) ∑ j exp ⁡  ⁣ ( z j / T ) T → 0 :    分布趋于尖锐，输出趋于确定 T → ∞ : 分布趋于平坦，输出趋于随机 \begin{aligned} p_i &= \frac{\exp\!\left(z_i / T\right)}{\sum_{j} \exp\!\left(z_j / T\right)}\\ T &\to 0:\ \,\, \text{分布趋于尖锐，输出趋于确定}\\ T &\to \infty:\ \text{分布趋于平坦，输出趋于随机} \end{aligned} piTT=∑jexp(zj/T)exp(zi/T)→0: 分布趋于尖锐，输出趋于确定→∞: 分布趋于平坦，输出趋于随机

其中 T T T 即 temperature 取值。据此可得两种工作模式：

• 低温（趋近于 0）：模型倾向选择概率最高、最常见的词元，输出连贯、准确但趋于保守。
• 高温（接近或超过 1）：模型更可能选择低频词元与不寻常表达，产出更具变化，但稳定性下降。

以补全句子「猫坐在......」为例：低温下通常输出「垫子上」「地板上」；高温下可能出现「哲学困境之上」等非常规结果。据此可确立如下使用准则：

1. 事实类任务（内容总结、代码编写、信息提取）应采用低温，优先保证准确。
2. 创意类任务（小说创作、头脑风暴、营销文案）应采用高温，以获取多样性。

面向消费者的客户端通常将 temperature 锁定为中间值，不开放调节；通过 API 或开发工具可直接配置该参数。

四、幻觉（Hallucination）

幻觉指模型以与输出正确内容时相同的置信度，陈述错误信息。例如询问一本书时，模型可能编造不存在的书名、作者、出版年份与情节，且表述自信。

成因在于：大语言模型不是数据库，不会主动检索事实；它依据训练阶段习得的统计规律预测下一个最可能的词元，本质上是大规模的序列补全系统。当模型不具备相关知识时，不会声明「不知道」，而是生成符合语言模式、看似合理的答案。

风险不在于模型会出错，而在于错误输出与正确输出在置信度上难以区分。因此对客观事实、统计数据、医疗建议、法律条文等一旦出错将造成实质后果的内容，应将模型输出视为起点，并对结论进行独立核验。

五、检索增强生成（RAG）

RAG（Retrieval-Augmented Generation，检索增强生成）用于解决通用模型的训练数据截止问题。通用模型无法读取企业内部文档、最新事件或用户上传的文件，RAG 通过外部检索补齐上下文。

其运行机制如下：

# 检索增强生成（RAG）推理流程
def rag_answer(question, index, llm):
    # 1. 文档预先切分为片段，并编码为向量存入向量数据库
    #    向量数据库按语义相似度匹配，而非仅关键词
    chunks = index.search(question, top_k=5)   # 2. 检索与问题语义最相关的片段
    context = "\n".join(c.text for c in chunks)
    prompt = f"参考资料：\n{context}\n问题：{question}\n请依据资料作答。"
    return llm.generate(prompt)                # 3. 将资料与问题一并送入模型生成答案

概括为三步：检索相关资料、注入模型上下文、生成回答。RAG 是客服机器人、法务文件助手、论文总结工具等产品的底层架构。需明确：模型能「读懂」私有文档，并非自身习得新内容，而是完成了一次语义检索并把结果作为上下文传入------模型参数未变，仅上下文发生变化。

第二部分 智能体与生态概念

六、智能体运行框架（Harness）

若将模型类比为大脑，未经封装的模型如同置于容器中的大脑：能够推理，却无法调用工具、收发信息，也无从判断何时停止。Harness 是围绕模型构建的软件系统，负责提供工具与信息、管理操作权限，并决定何时重试、何时停止、何时求助人类。其关系可表示为：

Agent = Model + Harness 智能体 = 模型 + 运行框架 \begin{aligned} \text{Agent} &= \text{Model} + \text{Harness}\\ \text{智能体} &= \text{模型} + \text{运行框架} \end{aligned} Agent智能体=Model+Harness=模型+运行框架

以编程智能体为例，Harness 为模型提供读取文件、修改代码、运行测试等工具，并管理指令与反馈的传递。这解释了同一模型在不同产品中表现差异较大的原因：二者的运行框架不同，为模型提供的工具、指令与结果校验方式不同。OpenAI 在介绍 Codex 运行环境时，说明了如何为其构建可编写代码、执行检查并依据反馈调整的 Harness。比较 AI 工具时，除模型本身外，应同时关注其如何协助模型完成任务。

七、智能体（Agents）

智能体是能够自主执行多步操作并通过调用工具完成任务的 AI 系统。其工作循环可概括为：

# 智能体执行循环（ReAct 式）
while not done:
    plan   = agent.think(goal, history)   # 制定计划：根据目标与已有反馈推理下一步
    result = agent.act(plan)              # 执行操作：调用被授权的工具完成单步动作
    done   = agent.check(goal, result)    # 检查结果：判断是否达成目标
    # 未达成则进入下一轮，由检查结果决定下一步

以退款申请为例：获得授权后，智能体可定位订单、查询退款政策、准备申请，并在正式提交前征求确认。Anthropic 在智能体相关说明中，解释了此类系统如何利用执行反馈指导后续行动。

智能体的能力边界取决于其工具与权限：仅能浏览网页的智能体，与能访问邮箱、文件与日历的智能体，能力差异显著。使用前应明确三点：

• 可访问哪些信息；
• 可修改哪些内容；
• 哪些操作必须经人工批准。

八、模型上下文协议（MCP）

MCP（Model Context Protocol，模型上下文协议）为 AI 应用连接外部工具与数据源提供标准化方式，其定位可类比 USB-C 接口。协议采用三层结构：

Host   ->  AI 应用本体（如客户端）
Client ->  Host 内部，与单个 Server 建立 1:1 连接
Server ->  对外暴露工具（tools）、资源（resources）与提示词（prompts）

此前每个 AI 客户端要为每个工具单独编写适配器，形成 n×m 集成问题；MCP 将其标准化------Server 编写一次即可被所有 Host 复用。例如借助 MCP，AI 助手可检索企业内部文档，或在项目管理工具中创建任务记录。

需区分 Function Calling 与 MCP：前者是模型侧能力（输出结构化的调用意图），后者是连接层标准（规定调用意图如何送达外部系统并取回结果）；实践中通常由 MCP Server 提供能力、由模型通过 Function Calling 触发。

技术演进方面，Anthropic 于 2024 年 11 月开源 MCP；2025 年 12 月 MCP 连同相关项目移交 Linux 基金会新设立的 Agentic AI Foundation（AAIF）治理，不再属于单一厂商私有标准；2026 年 7 月发布的规范转向无状态设计，支持 Server 水平扩展，并新增发现端点与任务扩展。需注意：将 MCP 类比为 USB-C 仅用于说明标准化概念，并非所有服务均可即插即用------AI 应用须支持相应连接，用户亦须授予权限。评估某产品「支持 MCP」时，应关注其可连接的服务范围与授权后可执行的操作。

九、循环工程（Loop Engineering）

智能体通常不是一次性执行，而是反复经历「选择操作---执行---检查---依据反馈继续」的过程。该过程可能出现问题：反复尝试同一无效操作而无法收敛，或任务未完成却提前宣告成功。Loop Engineering（循环工程）关注如何设计这一执行循环，包括反馈获取方式、继续与停止的判定条件。

# 循环工程的停止与求助条件设计
max_retry, budget = 3, {"time": 600, "cost": 5}  # 最大重试次数与时间/资金预算上限
for attempt in range(1, max_retry + 1):
    result = agent.run(task)
    if verifier.passed(result):        # 由校验器判断是否满足完成条件（如通过指定测试）
        return "success"
    if over_budget(budget):            # 超出时间或资金预算时强制停止
        return "budget_exceeded"
return escalate_to_human(result)       # 连续失败达上限则上报人工

设计循环时需明确：任务完成的判定条件、最大重试次数、时间与资金消耗上限、必须求助人类的情形，以及由何种机制校验最终结果。循环工程与 Harness 的关系为：Harness 提供工具与控制机制，循环工程关注智能体如何在反复执行中运用这些能力直至完成或正确终止。

十、技能（Skills）

Skill 是预先保存好的操作流程，智能体在遇到匹配任务时按该流程执行。以报销单整理为例，可预先规定单证必须包含的字段（如 date、category、amount）、不同费用的分类规则，以及发票缺失时的处理方式；再次遇到同类任务即可复用，无需每次重新说明。

在 Agent Skills 格式中，指令通常保存于名为 SKILL.md 的文件，并可附带脚本、模板与参考文档：

---
name: expense-report          # 技能名称，供智能体在任务匹配时识别
description: 按公司规范整理报销单  # 简要描述，决定是否需要加载本技能
---
# 操作流程
1. 读取发票图片，提取 `date` / `amount` 等字段
2. 按 `category` 规则归类费用
3. 字段缺失时标记并提示补充，不自行编造

其关键设计是渐进式加载：智能体无需在每次执行前读取所有技能的完整说明，初始仅见名称与描述，判定相关后再加载详细指令，避免无关操作流程的冗余读取。Skills 与 MCP 的分工为：MCP 解决可连接哪些工具与数据，Skills 解决应如何利用这些工具完成特定工作------例如经由 MCP 获得电子表格访问能力，再由 Skill 规定按公司规范生成月度销售报告的流程。

十一、生成式引擎优化与答案引擎优化（GEO / AEO）

GEO（Generative Engine Optimization，生成式引擎优化）与 AEO（Answer Engine Optimization，答案引擎优化）关注的并非智能体开发，而是内容如何被 AI 检索与引用。传统 SEO（搜索引擎优化）以关键词检索与网页点击为前提；当用户转向直接向 ChatGPT、Claude、Perplexity 等提问或阅读 AI 概览时，可能不再点开结果页。

• GEO 关注 AI 生成的答案是否提及企业、引用内容或推荐产品。
• AEO 关注如何让内容更适配直接答案的生成，涵盖搜索引擎答案功能与 AI 助手回答。

以一句话概括三者目标差异：SEO 追求搜索排名靠前，GEO / AEO 追求内容成为 AI 回答引用的信息来源。二者存在重叠，不同机构的划分标准并不统一。清晰的产品介绍、准确的信息与可靠的内容来源有助于提升被引用的可能性，但不能保证一定被提及。对于网站或企业，除关注传统排名与流量外，也应观察 AI 生成答案中是否出现自身品牌与内容。

十二、计算机操作能力（Computer Use）

Computer Use 指 AI 系统像人一样，通过点击、输入、滚动与选择界面元素操作计算机的能力。其流程为：截取屏幕 → 判断下一步 → 执行点击或输入 → 再次检查屏幕，据此在网页界面中填写表单或完成需要操作软件的任务。ChatGPT、Claude、Perplexity、Grok 等产品已陆续支持相关能力。

需与 API 相区分：API 允许软件间直接交换信息并执行操作；Computer Use 则让智能体通过普通用户可见的按钮、输入框与页面完成任务，因而适用于未提供合适 API 的应用（如通过网页表单填写预订信息）。其局限包括点错按钮、误读页面或在某步骤卡住。使用时应关注访问权限，在涉及购买、提交申请、修改账户等重要操作时保留人工审核环节。

十三、通用人工智能与超级智能（AGI / Superintelligence）

AGI（Artificial General Intelligence，通用人工智能）一般指在广泛智力任务上达到与人类相当水平的 AI 系统，涵盖跨领域学习、多类问题求解与知识迁移。其确切定义与衡量方式目前仍存在分歧。Google DeepMind 提出的 Levels of AGI 分级框架，从能力广度与表现水平两个维度对通用人工智能进行刻画。

Superintelligence（超级智能）指在广泛智力任务上能力显著超过人类的系统。二者区别可概括为：AGI 以达到人类水平为参照，Superintelligence 则整体超越人类。

需指出：单一任务上的优异表现不足以证明系统达到 AGI 或超级智能水平------擅长编写代码或求解复杂数学问题，不代表在其他类型任务上同样可靠。评估相关表述时，应优先厘清主体对概念的界定及其系统展示的实际能力，此类信息通常比标签本身更具参考价值。

---

Reference

• 如果你了解这 5 个 AI 术语，你就领先 90% 的人了 - 今日头条
  https://www.toutiao.com/article/7631020699133444671/
• if-you-understand-these-5-ai-terms-youre-ahead-of-90-of-people - Medium
  https://pub.towardsai.net/if-you-understand-these-5-ai-terms-youre-ahead-of-90-of-people-c7622d353319
• 弄懂这 5 个AI术语，你就超过了90%的人-36氪
  https://www.36kr.com/p/3903599664694915
• 为什么懂 AI 的人，都开始聊这 8 个词？
  https://mp.weixin.qq.com/s/Jc5IRl_CwCcv2Nl5aPk89w