概念名词
1. LLM(Large Language Model,大语言模型)
LLM 是整个 AI 系统的"大脑"。它负责:理解自然语言- 推理分析- 生成回答、 写代码、 总结内容 、 翻译文本 等。LLM本质是基于概率预测下一个词(Token)的模型,可能产生"幻觉"。
例如用户输入:
写一个快速排序
LLM 会理解你的意图,然后生成代码。
所以:
LLM = 会思考、会生成内容的模型。
但是LLM 自己:只负责识别意图与生成回复
❌ 不会联网
❌ 不知道今天新闻,即不会自动更新最新时事
❌ 不会查数据库
❌ 不会执行代码
这些都要借助 Tool、RAG 等机制。
2. Prompt(提示词)
Prompt 就是:
发送给 LLM 的所有输入。
例如:
你是一名Java专家。
请解释Spring IOC。
整个就是 Prompt。
Prompt 不只是用户的话。
真正送进模型的 Prompt 往往包括:
System Prompt + 历史聊天 + 用户问题 + 知识库内容 + Rules + 工具结果
所以 Prompt 可以理解成:
模型最终看到的完整输入。
3. Context(上下文)
Context:
模型回答当前问题所需要的一切背景信息。
Prompt 是输入,而Context 是 Prompt 中的重要组成部分,Context 可以包括:聊天记录 、用户信息 、上传文件 、 RAG 检索结果 、Tool 返回数据 、 Rules
例如:
第一句:
苹果公司是谁创建的?
第二句:
他后来离开了吗?
这里:
他
是谁?
只有 Context 知道:
Steve Jobs
所以模型才能回答。
所以也可以说
Context = 当前模型的记忆。
4. Tool(工具)
LLM 不能直接操作现实世界。
Tool 就是:
让模型能够调用外部能力。
例如:
天气API
数据库
浏览器
GitHub
Excel
搜索引擎
例如:
用户:
北京天气?
LLM:
调用天气API
↓
得到结果
↓
组织语言回答
Tool 本质就是:
function()
API()
Command() // 显式调用的用户指令,以/开头,如/model
LLM 并不是自己执行。
而是:
决定调用
↓
程序执行
↓
结果返回
5. MCP(Model Context Protocol)
Tool 解决:
能干什么。
MCP 解决:
怎么统一连接工具。
例如:
以前:
GitHub:
接口A
Notion:
接口B
数据库:
接口C
模型都要分别学习。
MCP 出现以后:
统一:
Tool Schema
↓
统一输入
↓
统一输出
↓
统一调用
所以:
MCP 是 Tool 的标准接口协议。
可以理解:
USB —— 外设
MCP —— AI工具
6. RAG(Retrieval-Augmented Generation)
很多人觉得:
RAG = 知识库。
其实不准确。
RAG:
是一种工作流程。
流程:
用户问题
↓
Embedding
↓
向量检索
↓
找到相关文档
↓
加入Prompt
↓
LLM回答
所以:
RAG =
检索 + 生成
例如:
用户:
公司年假几天?
LLM:
不知道。
RAG:
先查公司制度,然后回答。
为什么不用直接训练模型?
因为公司文档(数据来源)天天改。
重新训练成本太高。
RAG更新文档即可。
7. Agent(智能体)
很多人理解:
Agent = AI。
其实不是。
LLM:
只能回答。
Agent:
可以完成任务。
例如:
用户:
帮我写日报并发邮件。
Agent:
分析需求
↓
规划步骤
↓
调用邮箱
↓
生成日报
↓
发送邮件
所以:
Agent:
能够自主规划并调用工具完成目标。
一个 Agent 一般包含:
LLM + Tool + Memory + Plan + RAG + Rule
8. Rule(规则)
Rule:
限制模型行为的规则。
例如:
所有代码必须TypeScript
禁止使用any
回答必须中文
不能泄露隐私
Rule 可以来自:
- System Prompt
- Cursor Rules
- 企业规范
Rule 的目的是 保证输出稳定。
9. Skill(技能)
Skill不是模型能力。
而是:
封装好的可复用能力模块。
例如:
Code Review Skill:
里面可能包括:
Prompt
+
Rule
+
Tool
+
输出格式
以后每次
Review代码
直接调用即可。
所以Skill 类似:
VSCode插件
↓
一次开发
↓
多次使用
什么时候调用 Skill?
一般两种:
① 用户主动:
Review代码
② Agent 判断:
发现这是Review任务
↓
自动调用Review Skill
10. Plan(规划)
Plan:
Agent 最重要能力之一。
定义:
把复杂任务拆成多个步骤。
例如:
用户:
帮我分析今年销量下降原因。
Plan:
① 获取销售数据
↓
② 获取库存数据
↓
③ 分析趋势
↓
④ 总结原因
↓
⑤ 生成报告
没有 Plan:
LLM可能直接乱回答。
很多 Agent:
都会经历:
Reason
↓
Plan
↓
Act
↓
Observe
即:
思考
↓
规划
↓
执行
↓
观察结果(反思与验证)
↓
继续执行
11. Memory(记忆)
它经常和 Context 一起出现。
区别如下:
|---------|-----------|-----------|
| 概念 | 作用 | 生命周期 |
| Context | 当前对话需要的信息 | 当前请求或当前会话 |
| Memory | 长期保存的信息 | 跨会话 |
例如:
Context:
上一句话说了什么
Memory:
用户喜欢 Java
下次聊天仍然记得。
12. Embedding(向量化)
Embedding:
把文本转换成高维数字向量,使计算机能够比较语义相似性。
例如:
男人
可能变成:
[0.13, -0.84, 1.27, …]
国王
可能变成:
[0.18, -0.80, 1.35, …]
虽然数字完全看不懂,但因为它们在高维空间距离很近,所以模型认为这两个词语义相关。
RAG 正是利用 Embedding,把所有文档都转换成向量,并在向量数据库中进行近邻搜索,找到语义最相似的内容,而不是仅仅依赖关键词匹配。
总结:这些概念之间的关系
|-----------|----------------|---------------|
| 名词 | 核心作用 | 类比 |
| LLM | 思考和生成内容 | 大脑 |
| Prompt | 给模型的输入 | 问题/指令 |
| Context | 当前回答所需背景 | 工作记忆 |
| Rule | 限制模型行为 | 公司规章制度 |
| Tool | 调用外部能力 | 双手和工具箱 |
| MCP | Tool 的统一调用协议 | USB 接口标准 |
| RAG | 检索知识后再生成回答 | 查资料再作答 |
| Agent | 能自主完成任务的 AI 系统 | 项目经理 |
| Skill | 封装好的可复用能力 | 专业技能/工作模板 |
| Plan | 拆解任务并制定执行步骤 | 作战计划 |
| Memory | 长期保存用户信息 | 长期记忆 |
| Embedding | 将文本映射为向量表示 | 给每段文本分配一个高维坐标 |
一句话理解整个 AI 应用架构
用户通过 Prompt 向 Agent 提出任务,Agent 依靠 LLM 理解需求,结合 Context 和 Rule 进行推理,必要时制定 Plan,调用 Tool(通过 MCP 协议访问外部系统),利用 RAG 从知识库检索信息,并借助 Skill 执行特定能力模块,最终生成准确、符合要求的回答。
用户输入的Prompt(提示词)首先传递给作为"大脑"的大语言模型(LLM)。LLM本质是基于概率预测下一个词(Token)的模型,可能产生"幻觉",并依赖Context(上下文/历史记录)作为短期记忆。当LLM缺乏特定知识时,可通过RAG(检索增强生成)技术接入外部知识库(如公司Wiki)来获取准确信息。对于需要具体操作的任务,则可通过MCP协议调用各类Tools(工具)。将LLM、上下文、知识库和工具协同整合,便构成了能自主规划与执行任务的智能体(Agent)。Prompt的质量直接决定了LLM的输出效果。