AI 专有名词释义

目录

• [一. LLM（大语言模型）](#一. LLM（大语言模型）)
• • [1.1 Prompt（提示词）](#1.1 Prompt（提示词）)
  • [1.2 Token（词元）](#1.2 Token（词元）)
  • [1.3 RAG（检索增强生成）](#1.3 RAG（检索增强生成）)
• [二. Agent（智能体）](#二. Agent（智能体）)
• • [2.1 CLI（命令行交互方式）](#2.1 CLI（命令行交互方式）)
  • [2.2 MCP（标准化工具接入协议）](#2.2 MCP（标准化工具接入协议）)
  • [2.3 Skill](#2.3 Skill)
  • [2.4 Function Calling（函数调用）](#2.4 Function Calling（函数调用）)
  • [2.5 总结](#2.5 总结)
• [三. 大模型的模式](#三. 大模型的模式)
• • [3.1 AI Embedded（嵌入式 AI）](#3.1 AI Embedded（嵌入式 AI）)
  • [3.2 AI Copilot（助手 AI）](#3.2 AI Copilot（助手 AI）)
  • [3.3 AI Agent（智能体 AI）](#3.3 AI Agent（智能体 AI）)

---

一. LLM（大语言模型）

🔷Large Language Model大语言模型的缩写，本质上是一个会预测下一个词的模型。例如：

• GPT
• DeepSeek

🧐大模型可以：

• 输入：文本（Prompt）
• 输出：文本（预测结果）
• 能力：写代码 / 翻译 / 推理 / 对话

不会主动做事，只是被动响应。

1.1 Prompt（提示词）

🔷输入给LLM大语言模型的指令，提示词的好坏直接影响到结果的质量。高级的用法：

• Few-shot（给示例）
• Chain-of-thought（引导推理）
• System Prompt（设定角色）

1.2 Token（词元）

🔷LLM大语言模型处理文本时的最小单位（不是字符，也不是单词），发送给大模型的Prompt，以及大模型的回复都需要消耗token。

LLM大语言模型的服务提供商通常会根据token进行收费。

内容	token 大概数量
1 个英文单词	~1 token
1 个中文汉字	~1--2 token
1 行代码	几十 token

与大模型进行交互的时候，一次对话能记住的内容是有限的，有着上下文限制。例如能记住的最多的token为：

• 8K token
• 32K token
• 128K token

在一次对话中，token消耗越多速度会越慢，同时花费也越贵。

1.3 RAG（检索增强生成）

🔷Retrieval-Augmented Generation的缩写，在AI生成回答之前，先从外部知识库中检索相关信息，然后利用这些信息增强 LLM 的回答，从而解决模型可能出现的幻觉问题，提供更准确、更专业的内容。

🧠 为什么需要 RAG？

LLM（大模型）本身有几个问题：

• ❌ 知识是"训练时的"，可能过时
• ❌ 不知道用户的私有数据（本地文件 / 数据库）
• ❌ 对于不知道的问题容易"编"（幻觉）

👉 举个例子：

用户问公司数据库表结构是什么。LLM会胡编一个看起来合理的答案，因为LLM 并不知道公司数据库的结构。

👉 这时候就需要 RAG：

先去用户提供的数据库 / 文档里查，再回答。

🧩流程

1️⃣ Retrieval（检索），例如：向量搜索（embedding）和 关键词搜索（BM25）

• 文档（PDF / txt / md）
• 数据库
• 网页
• 本地文件

2️⃣ Augmented（增强），相当于让LLM带着明确的参考资料回答问题。

问题：
xxx

参考资料：
xxx
xxx
xxx

请基于以上内容回答

3️⃣ Generation（生成）

LLM 根据，用户问题 和 检索到的内容，生成最终答案。

---

二. Agent（智能体）

🔷Agent（智能体）= LLM + 记忆 + 工具 + 自动决策

能力	LLM	Agent
回答问题	✅	✅
自动执行任务	❌	✅
调用工具	❌	✅
多步骤推理	🔺（弱）	✅

🙄如果我们希望AI帮我们查询天气然后发送邮件给张三：

• LLM：只会告诉我们天气，无法帮发送邮件
• Agent：
  • 调 API 查天气
  • 生成邮件
  • 调用邮件工具发送

🧐Agent相当于可以调用操作系统各种功能的AI。

2.1 CLI（命令行交互方式）

🔷CLI是Command Line Interface的缩写。常用的CLI：

• PowerShell
• bash
• cmd

CLI作为作为 Agent 的执行环境，可以用来调用脚本、程序等。

2.2 MCP（标准化工具接入协议）

🔷Model Context Protocol的缩写， Agent接入外部工具的标准协议，类似于AI世界的USB接口。

工具按照MCP协议进行了实现之后， Agent才能对其进行调用。

通过 MCP，Agent 可以：

• 读取电脑文件
• 调用数据库
• 控制程序

2.3 Skill

🔷Agent可调用的能力模块，是对工具的封装。例如一个Agent 可能有这些 skill：

• search_web
• read_file
• run_powershell
• query_sqlite

2.4 Function Calling（函数调用）

Function Calling = 调用机制

Skill = 被调用的能力（函数本身）

用户请求
 ↓
LLM 判断
 ↓
Function Calling（决定调用哪个函数 + 生成参数）
 ↓
Skill（真正执行代码）
 ↓
返回结果

角色	职责
开发者	定义 Skill（函数）
LLM	决定是否调用 + 填参数
Function Calling	承载这个调用行为
程序（Agent）	真正执行 Skill

2.5 总结

---

三. 大模型的模式

3.1 AI Embedded（嵌入式 AI）

🔷AI 被藏在功能里面，用户感知不到 AI 的存在。不需要用户写 Prompt，不需要对话，就像普通功能一样自动运行。

输入法自动纠错

• 打字 → 自动修正
• 背后其实是 LLM / NLP

电商推荐

• 打开页面 → 推荐商品
• AI 在后台算

3.2 AI Copilot（助手 AI）

🔷AI 作为助手，由用户主导，AI只起到辅助作用。特点：

• 以 对话 / 提示 为主
• 用户发起任务
• AI 提供建议或生成内容
• 不会自动执行关键操作，最终将由用户决定

3.3 AI Agent（智能体 AI）

🔷AI 并不只是建议，而是根据用户的Prompt自己去完成任务。特点：

• 👍可以自动执行任务
• 多步骤决策
• 会调用工具（Function Calling / MCP）
• 可以循环执行（plan → act → observe）

例如用户要求AI：帮我整理桌面 txt 文件，按日期分类，然后打包，Agent 会：

• 扫描文件
• 分类
• 创建目录
• 移动文件
• 压缩