1 LLM
LLM 全称 Large Language Model,大语言模型,即大模型。基本上所有的大模型都是基于Transform模型架构实现的(如下图所示)

而这个Transform模型最早是由Google团队在2017年提出来的,对应论文名字为《Attention Is All You Need》
2 Token

用户每次询问一次大模型之后,大模型每次都会输出一个词语。大模型本质是一个数学函数,里面跑的全是矩阵运算,接收的是数字,输出的也是数字。所以人类和大模型直接有一个中间商负责编码和解码 ------ Tokenizer

编码把数字变为文字,解码把文字解析为数字。

将数字转递给大模型之后,经过一顿运算后就会输出一个数字(Token ID), 再把Token ID解码反解出来,映射成为文字。
Token------令牌,是大模型文本处理的最小单位。
- 英文:通常是单词、单词片段;中文大多是1 个汉字 / 标点,但有时一个词会拆成多个 token。
- 作用:模型输入、输出都按 token 计数;计费、上下文长度上限都是按 token 算。
3 Context
上下文 / 上下文窗口 指当前对话里模型能 "看到" 的全部历史内容(前面所有提问 + 回答)。
- Context Window(上下文窗口):模型最多能一次性读取的 token 总量。超出上限,最早的对话内容会被截断丢掉,模型就看不到了。
- 通俗理解:就是模型的短期记忆。
Context Window表示Context能够容纳的最大的Token的数量
想象一个场景:假如有一个上千页的公司产品手册,你希望大模型根据这个产品手册来回答用户的疑问,如何实现呢?你要把这个手册的全部内容跟着用户的问题一起丢给大模型吗?答案是否定的!产品手册太长,成本大。因此引出了RAG方法 ------ 给大模型外挂一个知识库,提问时先检索相关资料,再把资料 + 问题一起喂给大模型生成答案,不改动大模型本身权重
4 Prompt
提示词,你发给 AI 的指令、问题、描述文本。 分为:
- 基础 prompt:直接提问(例如 "写一段简介")
- 系统 prompt(System Prompt):给模型设定角色、规则、约束,在对话最开始生效。
Prompt 工程:专门研究怎么写提示词,让 AI 输出符合预期结果。
5 Tool
工具,大模型外部能力组件。 大模型本身只会文本推理,当需要外部能力时,调用 Tool:
- 例子:计算器、联网搜索、代码执行、文件读取、数据库查询。 流程:模型判断→决定调用哪个 Tool→把参数传给工具→拿到工具返回结果→再整理成自然语言回答你。
也就是常说的 Tool Calling(工具调用)。

- 大模型(LLM):大脑,负责思考、理解语言、推理
- 工具(Tool):手脚,负责执行大脑不会直接做的动作(查数据、算、读文件)
- 平台:整套工作台,把大脑、手脚、存储、调度打包在一起给你用
6 MCP
我们知道了工具是大模型外部能力组件。平台调用工具,因此就需要把工具接入到平台中。但是有一个问题:接入规范每个平台都不一样,因此就有一个统一的标准接入规范 ------ MCP
Model Context Protocol,模型上下文协议 是一套标准化协议,用来让 AI 模型安全、统一地连接外部工具、数据源。
- 解决痛点:以前每个工具都要单独写对接代码;MCP 统一接口,模型可以对接任意支持 MCP 的服务(数据库、本地文件、API 等)。
- 简单理解:类似 USB 接口,模型不需要为每个外设单独开发驱动,插上符合 MCP 标准的工具就能用。
7 Agent
智能体 具备自主规划、思考、调用工具完成复杂任务的 AI 程序。 基础大模型只能单次响应 prompt;Agent 可以:
- 拆解目标
- 多轮思考
- 判断是否需要调用 Tool
- 循环执行直到任务完成
例子:帮你自动查资料、整理报表、分步完成一套复杂工作流。
Agent产品:Claude Code、Codex、Gemini CLI
8 Agent Skill
Agent 可调用的、封装好的能力单元。
- Skill 是原子化功能:比如 "读取 PDF"、"查询天气"、"代码运行"。
- 和 Tool 区别:Tool 偏向底层接口;Skill 是面向任务封装好的能力,Agent 可以根据任务选择启用对应的 Skill。
类比:Agent 是员工,Skill 是员工会的技能(做 PPT、查数据),Tool 是技能用到的工具(Excel、浏览器)。
如果你需要,我可以画一张简短关系图,一次性理清:Prompt → Agent → Skill → Tool → MCP 的层级关系。