【从零理解 Spring AI · 13】RAG 要解决什么:把“闭卷考试“变成“开卷“

【从零理解 Spring AI · 13】RAG 要解决什么:把"闭卷考试"变成"开卷"

写在开头

第三辑解决了"不会做",这篇开始解决第 02 篇留下的另一半问题:"不知道"。

场景你一定遇到过:用户问"我们公司的退货政策是什么?"------模型开始流畅地编造一个"行业标准退货政策",和你们公司的真实规定半点关系没有。

它不是不想答,是它真的没见过你们公司的文档。训练数据里没有的东西,它怎么编都是错的。

RAG(Retrieval Augmented Generation,检索增强生成)就是这个问题的事实标准解法。这篇讲它的思路和最小闭环,后面两篇讲工程细节。


一、先看清"幻觉"的两种来源

第 02 篇讲过:模型是接龙机器,"编"和"答"是同一个动作。结合实战,幻觉高发于两种情况:

  1. 问私有知识------公司制度、产品文档、内部数据,训练数据里根本没有;
  2. 问截止点之后的事------新出的版本、本周的价格、昨天的公告。

共同点:上下文里没有可靠依据,模型只能靠语言惯性硬编。

反过来推,解法也就出来了:只要把可靠的依据放进上下文,模型就有据可依------它大概率照着资料答,就算资料里没有,按提示词规则它也会承认不知道。

RAG 的全部思想就这一句话:先检索,再回答。


二、闭卷 → 开卷

RAG 就是给模型发参考资料

把模型的工作比作考试:

  • 闭卷:只靠脑子里背过的东西答题------训练里没有的,只能瞎编;
  • 开卷:先翻资料,照着资料答------资料里没有的,按规则写"资料中未提及"。

RAG 的完整闭环:

复制代码
用户提问
  → ① 拿问题去资料库检索相关片段
  → ② 把检索到的片段和问题一起塞进上下文
  → ③ 模型照着片段回答(附带溯源)

注意这个设计的精妙之处 :模型本身一行代码都没改------改的只是它"考场上能看到的资料"。


三、为什么这个场景不选微调

"让模型懂我们的知识",很多人第一反应是微调(Fine-tuning)。对比一下:

维度 微调 RAG
改的是什么 模型的参数(行为习惯) 上下文里的资料
知识更新 重训一次才能更新 资料库增删改立即生效
成本 高(算力、数据、周期) 低(一套检索管线)
可溯源 无法标注答案出处 能给出资料片段出处
适合 改风格、改格式、领域话术 事实知识、私有文档

一句话选型 :改行为习惯用微调,补事实知识用 RAG。 "让模型知道我们公司的退货政策"是纯知识问题------RAG,别折腾微调。

而且两者不冲突:大厂通常微调出"说话有那味儿"的模型,再用 RAG 喂"当前有效的事实"。


四、Spring AI 的最小闭环:一个 Advisor

RAG 的每个环节(检索、拼装上下文)都可以手写,但 Spring AI 把最常见的形态做成了一个 Advisor------和记忆、工具一样的挂载方式:

java 复制代码
// 依赖:spring-ai-vector-store-advisor
// 前提:vectorStore 里已经导入了你的文档(下一篇讲怎么导入)

ChatResponse response = ChatClient.builder(chatModel)
        .build()
        .prompt()
        .advisors(QuestionAnswerAdvisor.builder(vectorStore).build())
        .user("我们公司的退货政策是什么?")
        .call()
        .chatResponse();

这行 Advisor 在背后做了两件事:

  1. 拿用户的问题去向量库做相似度检索,取回最相关的文档片段;
  2. 把片段和原问题合并成一个新的提示,交给模型------默认模板里甚至写好了规则:"如果答案不在提供的上下文中,就说你不知道"(幻觉的最后一道闸)。

和第 04 篇挂记忆 Advisor 的方式一模一样------这就是第 03 篇说的"Advisor 链是能力可插拔的落点":加记忆挂一个、加检索挂一个,互相独立、自由组合。

检索的常用微调

java 复制代码
var qaAdvisor = QuestionAnswerAdvisor.builder(vectorStore)
        .searchRequest(SearchRequest.builder()
                .similarityThreshold(0.8d)   // 相似度门槛:低于 0.8 的不要
                .topK(6)                     // 最多取 6 条
                .build())
        .build();

还可以用 FILTER_EXPRESSION 参数在运行时按元数据过滤(比如"只在 type == '产品文档' 里搜"),多租户和多知识库场景很常用。


五、这篇的四个要点

  1. 幻觉的根源是上下文没有依据------模型不是撒谎,是"编"和"答"同一个动作。
  2. RAG = 先检索再回答------模型没改,改的是考场上能看到的资料。
  3. 知识问题选 RAG 不选微调------资料随时更新、可溯源、成本低;微调管行为习惯,不管事实。
  4. Spring AI 里 RAG 就是一个 Advisor ------QuestionAnswerAdvisor 挂上即用,带相似度门槛、topK、元数据过滤。

延伸思考

最小闭环里有一个被我们一笔带过的环节:"把文档导入向量库"。

企业知识库动辄几百份 PDF、网页、Word------它们怎么变成向量库里"能被检索的段落"?导入时切太碎丢上下文、切太粗检索不准,这个粒度怎么定?"向量化"到底是在向量化什么?

这些是 RAG 工程质量的第一决定因素,下一篇展开。


下一篇

《RAG 的四个环节:加载、切分、向量化、检索》------文档从"一堆 PDF"到"能被语义检索的知识"的完整流水线,以及每一步的取舍。


本专栏按 Spring AI 当前版本讲解。

相关推荐
学长毕设1 小时前
基于SpringBoot军事纪念馆管理系统设计与实现-附源码
java·spring boot·后端
这个昵称不容易2 小时前
SpringBoot 医疗病历交互系统的设计与实现:192 个 Java 文件、256 个接口、22 张表,附真实运行截图
java·springboot·毕设
驭渊的小故事3 小时前
订单服务如何调用商品服务?一次 RestTemplate 跨服务调用入门
java·开发语言·php
文丑颜不良啊5 小时前
LeetCode3001~3020题目解析
java·leetcode
山楂树の6 小时前
Java 字符串高效处理:StringBuilder、StringBuffer、StringJoiner
java·开发语言
.痞老板.7 小时前
java ee--文件操作和IO
java·java-ee
简 洁 冬冬7 小时前
分页「向上取整」公式 `(total + size - 1) / size` 的完整推导
java·分页
装不满的克莱因瓶9 小时前
【从零搭建】AI大模型之ReactAgent智能体对接MCP实战
java·人工智能·ai·springai·mcp·springaialibaba
SimonKing10 小时前
AI Assistant被"隐藏"了?别慌,IDEA 2026.3 这波是换了个脑子
java·后端·程序员