前言
2025年，AI Agent产品接踵而至，涌入大众的视野中。
在此之前，能想到的 AI 产品好像还只有 ChatGPT 和 Cursor，一个通用对话，一个专注编程。
怎么一下就冒出这么多？Claude Code、Codex、Trae、智谱、千问、即梦等。
现在回看忽然发现，整个发展趋势是势不可挡、有迹可循的。
一、发展脉络
AI的目标：让机器能模拟人类行为。包括感知、理解、推理、决策、生成 这整个思考流程。
2017前人工智能应用领域包括，视觉识别-CV、语音转文本-ASR、NLP 自然语言处理；学习方法包括，ML、DL以及RL（数据标注是其中一小类）
| 时间段 | 技术 | 核心 | 阶段 |
|---|---|---|---|
| 2017 | Transformer | 自注意力引擎 | |
| 2021-2023 | ChatGPT/Codex等 | LLM对话产品 | AI进入大众视野 |
| 2023-2024 | RAG 和 MCP | 解决LLM：知识过时 和 无法使用工具 | AI和真实世界交互 |
| 2025 | Skill 和Agent | 可复用能力和自主执行 | 除此之外，出现AI开源 |
RAG：检索增强生成（Retrieval-Augmented Generation）
二、概念
2.1 NLP
NLP自然语言处理，让机器能够理解和生成人类自然语言的一个AI领域。
从语法、语义、语境、情感、意图对层面去分析语言，目的是打破人机语言交互的壁垒 ------ 不只是听懂指令，还包括评价、回答问题、翻译和创作等所有语言相关任务。
示例：这件电脑的样式比苹果新款还要流畅，就是太贵了，如果便宜点我就买了
- 语境："苹果"指苹果的性能（非整品牌）
- 情感：混合 ------ 样式正面；价格负面；购买条件性
- 意图：产品改进建议 和 条件购买意愿
2.2 ML、DL、RL
机器学习、深度学习 以及 强化学习 是AI领域的学习方法。
- 机器学习的方式包括，监督学习、无监督学习、自监督学习、以及强化学习。
- 监督学习：我们通常提到的数据标注。针对某一类需要区分的事物，通过固定标注方式，进行分类
- 无监督学习：不需要标注。给出大量的数据，机器自动提取这些数据的共同点，进行分类。比如针对大量的文章，自动根据主题区分。
- 自监督学习：自己创造标注。根据大量数据学习，自动匹配出相关联的词组。------ BERT技术
- 强化学习（RL）：不需要标注，要反馈。根据事件得出的不同结果，给出奖励或者惩罚，机器根据反馈去不断的纠正和学习。
- 深度学习：ML 的子集，用多层神经网络自动从数据中提取特征，无需人工设计特征。Transformer 是其中一种架构。
2.2.1 示例
- GPT-4 里的"GPT"用的是哪种学习方式？
准备前提：要知道 GPT 的训练过程。
-
第一阶段：预训练（学会说话）
学习方式：自监督学习 和 Transformer
作用：海量文本学习语言规律
应用：给出"今天天气很"，能预测下一个词大概率是"热/冷/好"
-
第二阶段：SFT 指令微调（学会听话）
学习方式：监督学习
作用：人工写示范回答，模型模仿
应用：机器能够按照用户指令回答
-
第三阶段：RLHF（学会说话好听）
学习方式：强化学习
作用：对模型生成的答案进行评估和优化 ------通过奖励和惩罚让回答更好（非决策）
训练数据：prompt + 模型生成多个答案 + 人的排序
步骤：
1️⃣ 生成：模型对同一问题生成多个答案，人工进行排序
2️⃣ 数据：训练打分模型（Reward Model）
3️⃣ 重复：强化学习优化（PPO）------ 模型生成 → 打分 → 调整 → 循环
应用：根据人类打分调整输出，让回答更符合人类偏好。打分维度：有用性、无害性、诚实性、遵循指令、语气、格式等。
示例：用户问"Vue3 和 Vue2 有什么区别？"
1️⃣ 响应式：用 Proxy 替代 Object.defineProperty
2️⃣ 组合式 API：setup() 替代 Options API
3️⃣ 性能：渲染更快
综上，"GPT" 模型用到了 ML、DL、RL 三个学习方法的融合。
注意：关于 SFT 是否属于 RLHF，不同资料来源有不同划分。
- 原论文（https://arxiv.org/abs/2203.02155 ）：SFT 是 RLHF 的第一步（SFT → RM → PPO 统称为 RLHF）
- 社区/教程（如 Harvard 课件）：SFT 和 RLHF 分开（预训练 → SFT → RLHF）
划分方式不同，但训练顺序和核心思想完全一致：SFT → Reward Model → PPO。
- 幻觉的理解
个人理解：海量数据学习得到的一种惯性思维和实际应用数据之间的碰撞。
幻觉是模型在不确定时，生成了一个 看似合理但事实错误 的答案。因为模型本质是"预测最可能的下一个词"，不是"查证事实"。
2.3 Transformer
Transformer是一种神经网络架构。
解决RNN架构存在的逐字关联词组、理解语句时低速、长语句理解效果差的问题。
它的优势或者说最大特点是：在处理长语句和存在代指的复杂语句时，能够同时计算词组的关联关系，效率显著提高。
Transformer和NLP的关系：
- NLP 是一个应用领域，用于理解和生成语言；
Transformer 是底层架构（核心引擎：自注意力机制）。 - Transformer 是 NLP 的"引擎"，所有现代 NLP 模型（GPT、BERT模型）底层都跑在 Transformer 上。
- 类比 Vue：Transformer = ECMAScript。React/Vue、uni-app等基于ECMAScript，应用于 Web、小程序、微前端等不同场景。GPT、BERT、ViT、Comformer等模型基于Transformer应用于 NLP、CV、ASR 等不同领域。
类比厨房： ML、DL、RL 是厨艺；NLP、CV 、ASR 是菜品；Transformer是灶台
2.2.1 扩展
不改变核心标准，改变的是 "输入预处理" 和 "输出适配" 的方式。
比如：NLP的输入处理是将文字变为tokens序列，利用 "自注意机制" 核心引擎，计算每个词和其他所有词的关联性并输出。
| 架构 | 应用领域 | 变体 | 适配 |
|---|---|---|---|
| Transformer | NLP | Transformer处理文字序列 | 把文字变为tokens序列 |
| Transformer | CV | ViT（Vision Transformer ） | 把图片变为patches序列 |
| Transformer | ASR | Comformer（Transformer + 卷积的混合体） | 把音频变为频谱段 |
| 标准 | 应用领域 | 变体 | 适配 |
|---|---|---|---|
| ECMAScript | Web | Vue CLI/Vite | HTML、CSS、JS |
| ECMAScript | 小程序 | uni-app | .wxml +.wxss +.js |
| ECMAScript | 微前端 | wujie/micro-app | 可被主应用加载的子应用 |
| 工具 | 应用领域 | 变体 | 适配 |
|---|---|---|---|
| Axios | Node | httpAdapter | HTTP模块 发请求 |
| Axios | 浏览器 | xhrAdapter | xhr 发请求 |
| Axios | 小程序 | wxAdapter | wx.request 发请求 |
三、总结
本文梳理了Agent进入大众视野之前的AI发展脉络，从技术基建Transformer、学习方法、应用领域三个方面，理清了 AI 发展中遇到的问题及解决方案。
目的是为后续深入学习Agent打好基础，比如，在遇到困难时能够快速定位自己缺哪块知识，理解Agent所处的阶段和依赖的技术。