【从零理解 Spring AI · 13】RAG 要解决什么:把"闭卷考试"变成"开卷"
写在开头
第三辑解决了"不会做",这篇开始解决第 02 篇留下的另一半问题:"不知道"。
场景你一定遇到过:用户问"我们公司的退货政策是什么?"------模型开始流畅地编造一个"行业标准退货政策",和你们公司的真实规定半点关系没有。
它不是不想答,是它真的没见过你们公司的文档。训练数据里没有的东西,它怎么编都是错的。
RAG(Retrieval Augmented Generation,检索增强生成)就是这个问题的事实标准解法。这篇讲它的思路和最小闭环,后面两篇讲工程细节。
一、先看清"幻觉"的两种来源
第 02 篇讲过:模型是接龙机器,"编"和"答"是同一个动作。结合实战,幻觉高发于两种情况:
- 问私有知识------公司制度、产品文档、内部数据,训练数据里根本没有;
- 问截止点之后的事------新出的版本、本周的价格、昨天的公告。
共同点:上下文里没有可靠依据,模型只能靠语言惯性硬编。
反过来推,解法也就出来了:只要把可靠的依据放进上下文,模型就有据可依------它大概率照着资料答,就算资料里没有,按提示词规则它也会承认不知道。
RAG 的全部思想就这一句话:先检索,再回答。
二、闭卷 → 开卷

RAG 就是给模型发参考资料
把模型的工作比作考试:
- 闭卷:只靠脑子里背过的东西答题------训练里没有的,只能瞎编;
- 开卷:先翻资料,照着资料答------资料里没有的,按规则写"资料中未提及"。
RAG 的完整闭环:
用户提问
→ ① 拿问题去资料库检索相关片段
→ ② 把检索到的片段和问题一起塞进上下文
→ ③ 模型照着片段回答(附带溯源)
注意这个设计的精妙之处 :模型本身一行代码都没改------改的只是它"考场上能看到的资料"。
三、为什么这个场景不选微调
"让模型懂我们的知识",很多人第一反应是微调(Fine-tuning)。对比一下:
| 维度 | 微调 | RAG |
|---|---|---|
| 改的是什么 | 模型的参数(行为习惯) | 上下文里的资料 |
| 知识更新 | 重训一次才能更新 | 资料库增删改立即生效 |
| 成本 | 高(算力、数据、周期) | 低(一套检索管线) |
| 可溯源 | 无法标注答案出处 | 能给出资料片段出处 |
| 适合 | 改风格、改格式、领域话术 | 事实知识、私有文档 |
一句话选型 :改行为习惯用微调,补事实知识用 RAG。 "让模型知道我们公司的退货政策"是纯知识问题------RAG,别折腾微调。
而且两者不冲突:大厂通常微调出"说话有那味儿"的模型,再用 RAG 喂"当前有效的事实"。
四、Spring AI 的最小闭环:一个 Advisor
RAG 的每个环节(检索、拼装上下文)都可以手写,但 Spring AI 把最常见的形态做成了一个 Advisor------和记忆、工具一样的挂载方式:
java
// 依赖:spring-ai-vector-store-advisor
// 前提:vectorStore 里已经导入了你的文档(下一篇讲怎么导入)
ChatResponse response = ChatClient.builder(chatModel)
.build()
.prompt()
.advisors(QuestionAnswerAdvisor.builder(vectorStore).build())
.user("我们公司的退货政策是什么?")
.call()
.chatResponse();
这行 Advisor 在背后做了两件事:
- 拿用户的问题去向量库做相似度检索,取回最相关的文档片段;
- 把片段和原问题合并成一个新的提示,交给模型------默认模板里甚至写好了规则:"如果答案不在提供的上下文中,就说你不知道"(幻觉的最后一道闸)。
和第 04 篇挂记忆 Advisor 的方式一模一样------这就是第 03 篇说的"Advisor 链是能力可插拔的落点":加记忆挂一个、加检索挂一个,互相独立、自由组合。
检索的常用微调
java
var qaAdvisor = QuestionAnswerAdvisor.builder(vectorStore)
.searchRequest(SearchRequest.builder()
.similarityThreshold(0.8d) // 相似度门槛:低于 0.8 的不要
.topK(6) // 最多取 6 条
.build())
.build();
还可以用 FILTER_EXPRESSION 参数在运行时按元数据过滤(比如"只在 type == '产品文档' 里搜"),多租户和多知识库场景很常用。
五、这篇的四个要点
- 幻觉的根源是上下文没有依据------模型不是撒谎,是"编"和"答"同一个动作。
- RAG = 先检索再回答------模型没改,改的是考场上能看到的资料。
- 知识问题选 RAG 不选微调------资料随时更新、可溯源、成本低;微调管行为习惯,不管事实。
- Spring AI 里 RAG 就是一个 Advisor ------
QuestionAnswerAdvisor挂上即用,带相似度门槛、topK、元数据过滤。
延伸思考
最小闭环里有一个被我们一笔带过的环节:"把文档导入向量库"。
企业知识库动辄几百份 PDF、网页、Word------它们怎么变成向量库里"能被检索的段落"?导入时切太碎丢上下文、切太粗检索不准,这个粒度怎么定?"向量化"到底是在向量化什么?
这些是 RAG 工程质量的第一决定因素,下一篇展开。
下一篇
《RAG 的四个环节:加载、切分、向量化、检索》------文档从"一堆 PDF"到"能被语义检索的知识"的完整流水线,以及每一步的取舍。
本专栏按 Spring AI 当前版本讲解。