RAG基本流程

RAG(Retrieval-Augmented Generation,检索增强生成)是一种将外部知识检索 与大语言模型(LLM)生成能力相结合的技术,用于提升回答的准确性、减少"幻觉"(Hallucination),并支持私有或实时数据。

1.文档加载,准备知识库

从各种来源,如 PDF、Word、网页、数据库、TXT 等,读取原始文本。

2.准备知识库-切分文档

把长文本切分为较小的语意片段,便于后续向量化和检索。

固定大小切分:如按照字符数、token数

按标点符号切分:如换行符

按文档结构切分:如标题、章节

按语意切分:将句子按照相关性合并成段落

语义连贯行越来越好、实现复杂度愈来愈难。

3.准备知识库-向量化

将每个文本块转换为高维向量(embedding),用于语义相似度计算。

  • text-embedding-ada-002(OpenAI)
  • BGE(智源)、m3e(国产)、Sentence-BERT

词嵌入:语义相似度捕捉的更好。

应用阶段:将训练好的模型应用于新文本以生成词潜入。

训练阶段:使用大型文本数据集训练模型以学习词表示。

4.向量存储

为向量存储和处理而生的数据库:向量数据库。

主要作用:嵌入文本、存储向量、进行相似度分析。

常见数据库:faiss、chroma、milvus等

5.检索

当用户提问时,将问题也转为向量,在向量库中查找最相似的 top-k 文本块。

(1)基于文本相似度的检索

问题向量vs知识块向量

余弦相似度:用向量的夹角表示这两个向量的相似度。夹角从0到180度,夹角越大,相似度越小。

欧氏距离:用向量的距离表示这两个向量的相关性。距离越小,相关性越高。

(2)基于关键字的检索

对于文档进行分词和去重之后,抽取关键字、匹配文档

语意捕捉效果更好,容错率更高。

关键词在部分场景下命中率高。

6.重排序(Re-ranking,可选但推荐)

对初步检索结果进行精排,提升相关性(尤其在 top-k 较大时)。

解决"语义相近但不相关"的误检问题。

7.提示词的构造+模型选择+生成回答

(1)提示词

用模版,不会每次都自己写。问题+参考文档,回答要求。

请根据以下上下文回答问题:

上下文:{retrieved_text}

问题:{query}

回答:

(2)模型的选择

开源:自行部署

  • 安全和隐私性好
  • 硬件要求较高
  • 模型能力相对较低
  • 应用:ollama、huggingface、魔塔

闭源:调用外部接口

  • 安全性较低(需连外网)
  • 模型能力较强
  • 一键调用,不需要维护。
  • 应用:各大官方API、通用框架。

(3)生成回答

将用户问题 + 检索到的上下文一起送入 LLM,生成最终答案。

8.总结

索引、检索、生成

作用:索引为了搭建一个知识库,支撑后面的检索。检索为了找到合适的文档。生成是为了整合提问和参考文档,输入大模型,得到答案。

核心:检索的核心是怎么切割模型,怎么选择合适的向量模型。检索核心是检索方式的选择。生成核心是提示词的构建,大模型的选择。

相关推荐
Soari5 分钟前
NetPilot:用RAG与验证回路辅助混合TSN和5G网络配置
5g·网络配置·大语言模型·tsn·rag
攒了一袋星辰5 小时前
AI 求职长期记忆原理解析:从碎片经历到贝叶斯能力星图
知识图谱·agent·rag·ai工程·校招面试
LiaoWL1231 天前
从零搭一个 RAG 知识库(二):换上语义 Embedding——BGE 实测与阈值重校准
python·大模型·numpy·embedding·向量检索·rag
2601_967987372 天前
AI加速波:大模型应用开发主要做哪些工作?
rag·提示词工程·agent开发·ai大模型应用开发·服务封装
东莞市云毅网络有限公司3 天前
用 Playwright 搭一套问答平台引用监测的最小骨架
python·数据清洗·rag·企业知识库·文档解析
一条大祥脚3 天前
Agent Memory 全解析:从 SQLite、向量库 + RAG 到 Zep、Mem0
sqlite·agent·rag·智能体记忆
nice_lcj5204 天前
【从零理解 Spring AI · 13】RAG 要解决什么:把“闭卷考试“变成“开卷“
java·spring·检索增强·rag·spring ai·ai应用开发
顾鸟4 天前
ComfyUI 使用 LLaMA-Factory 微调的 Qwen3.5:从模型导出到工作流出图--晨羽算力平台
llama·comfyui·工作流·qwen3.5
AI-Frontiers4 天前
从RAG到知识图谱再到Agent工作流,中间还差一层本体论
agent·rag
Solange__5 天前
Blender 3D模型优化:普通复制、共享网格、实例、合并怎么选?
人工智能·3d·ai·自然语言处理·编辑器·blender·材质