大模型底层逻辑(四):RAG 检索增强生成

大模型有一个致命的弱点:知识滞后。它的知识停留在训练结束的那一天(训练剪裁期)。如果你问它"今天早上的天气预报"或者"你们公司的最新报销政策",它只会一本正经地胡说八道(幻觉)。

RAG (Retrieval-Augmented Generation) 的出现,让 AI 从"背书比赛"转向了"开卷考试"。

1. RAG 的三部曲:搜、拼、读

RAG 的核心逻辑非常简单:在回答之前,先去翻书。

RAG 运行流程图

flowchart TD User((用户提问)) --> Search[1. 检索: 从向量库找相关文档] DB[(知识库/PDF/Wiki)] --- Search Search --> Augment[2. 增强: 将文档拼入 Prompt] subgraph Prompt_Box ["最终发送给 LLM 的内容"] direction TB P1["你是一个助手,请根据以下资料回答"] P2["参考资料: 搜索到的文档片段"] P3["用户问题: XXXXX"] end Augment --> Prompt_Box Prompt_Box --> LLM[3. 生成: LLM 阅读并回答] LLM --> Answer((最终答案)) style Search fill:#f96,stroke:#333 style Prompt_Box fill:#fff4dd,stroke:#d4a017

2. 核心技术:向量检索 (Vector Search)

为什么 RAG 不用传统的"关键词搜索"? 因为关键词搜不到语义

  • 关键词搜索: 搜"单车",搜不到"自行车"。
  • 向量检索: 在第一篇我们学过 Embedding。系统把用户的问题变成坐标,去数据库里找"距离最近"的文档片段。即使字面上没有重复,只要意思相近,就能被抓取出来。

3. LLM 在 RAG 中扮演什么角色?

在 RAG 架构中,LLM 的定位从"百科全书"变成了高级阅读理解官

它的任务不再是搜寻记忆,而是:

  1. 判断: 搜索出来的这几段资料里,哪段是有用的?
  2. 整合: 把碎片化的信息揉成一段通顺的人话。
  3. 诚实: 如果资料里确实没提到,要学会说"对不起,根据已知资料我无法回答"。

4. RAG 与 MCP 的联动

我们不再手动把文件喂给 RAG,而是通过 MCP (Model Context Protocol)

  • 以前: 你要把 PDF 上传到某个平台。
  • 现在: 你只要挂载一个 MCP 数据服务器 (比如连接你的 GitHub 或 Notion),当用户提问时,系统会自动通过 MCP 协议去这些实时更新的源头进行 RAG 检索

加载原理: RAG 其实就是一种动态上下文加载。它确保了模型在推理的瞬间,它的上下文窗口(Context Window)里装载的是此时此刻最正确的知识。


5. 总结:第四课的心得记录

  • 逻辑比知识更贵: 我们利用 LLM 的逻辑推理能力,利用 RAG 提供实时知识。
  • 减少幻觉: 有据可查是解决 AI 乱说话的良药。
  • Embedding 是桥梁: 只有把文档变成向量,RAG 才能真正"懂"你想查什么。
相关推荐
canonical_entropy12 小时前
Harness Engineering 之外:从非线性动力系统控制理解吸引子引导工程
架构·aigc·ai编程
ServBay14 小时前
月之暗面 Kimi Code 0.4.0 发布,终端 AI 编码助手全面采用 TypeScript,实现毫秒级启动
后端·aigc·ai编程
心疼你的一切15 小时前
高效内容生产:如何实现规模化创作
大数据·人工智能·ai·ai编程·ai写作
kyriewen15 小时前
我关掉了Copilot:因为我写的代码出现在了别人的建议里
前端·javascript·ai编程
孟健15 小时前
flomo MCP 之后,笔记管理该重做了
ai编程
1点东西16 小时前
Codex + 智谱 GLM 完整跑通教程 (全网唯一测试通过教程)
aigc·openai·ai编程
颜进强16 小时前
Claude Code -8 Skills 实战指南:让 AI 精准执行你的工程规范
ai编程
ZzT16 小时前
Harness 怎么扩展:skill、配置目录与 hook
openai·ai编程·claude
小村儿18 小时前
连载11- Claude code 的 Agent Teams——当子 Agent 开始互相说话
前端·后端·ai编程
@我们的天空18 小时前
Claude Code + GLM-5 深度赋能测试:开发 8 大 Skill 构建 AI 测试助手集群
人工智能·python·测试工具·自动化·ai编程