RAG-day2

一、文本分块

  1. 作用:长文档不能直接喂给大模型,必须切成小块,避免超出上下文限制、检索更精准。
  2. 常见分块方式:固定大小分块、按段落分块、按语义分块。
  3. 分块原则:块不能太大(冗余多)、不能太小(语义不完整)。

二、向量化与嵌入模型

  1. 嵌入模型(Embedding 模型):专门负责把文本转成向量的模型。
  2. 特点:语义越相似的文本,转化后的向量数值越接近。
  3. 作用:是语义检索的基础,没有向量化就做不了语义匹配。

三、向量数据库

  1. 定义:专门用来存储向量、快速做相似度检索的数据库。
  2. 和普通数据库区别:普通库适合精确匹配;向量库适合语义相似度匹配
  3. 常见用途:存放文档块向量、用户问题向量,供 RAG 快速检索。

四、RAG 细化完整链路(含隐藏子步骤)

文档接入→ 文本分块→ 嵌入模型向量化→ 向量入库(存向量数据库)→ 用户提问向量化→ 向量库语义检索→ 拼接检索片段 + 用户提示词→ 大模型增强生成答案

五、语义检索核心逻辑

  1. 用户问题 → 转向量
  2. 和向量库里所有文档块向量算相似度
  3. 取出相似度最高的 Top-N 片段
  4. 作为参考资料给大模型
相关推荐
linweidong5 小时前
中科闻歌Java面试题及参考答案
java·python·大模型·提示词·ai agent·mcp·rag原理
songsong.6 小时前
Vibe Coding实现Supabase + Vercel完整部署
大模型·大语言模型·vibe coding·氛围编程
猎头南楼7 小时前
医疗大模型微调实践:从任务定义到领域落地的技术笔记
大模型
UCloud_TShare10 小时前
优刻得孔明智算平台携手openFuyao,加速多样化算力规模化落地
人工智能·ai·大模型
VIP_CQCRE15 小时前
在 Visual Studio 里接入 Ace Data Cloud:让 LMLocal 调用统一的 OpenAI 兼容模型接口
ai·大模型·visual studio·ace data cloud·lmlocal
东莞市云毅网络有限公司16 小时前
企业非结构化资料拆分成可引用片段:一套能跑通的预处理流水线
python·数据清洗·rag·企业知识库·文档解析
智码看视界16 小时前
文档理解多模态模型:PaddleOCR-VL-1.6 部署实测,0.9B 小钢炮暴打 GPT-5.2,文档解析刷新 SOTA
大模型·文档理解
高擎AI+1 天前
GPT-6 Token 消耗实测解读:额度方差的三层机制与预算管控清单
gpt·大模型·gpt-6·token消耗·token讨论
像风一样自由20201 天前
23.OCR在知识库中的作用扫描件和图片文字如何进入RAG
postgresql·大模型·ocr·rag
浩风祭月1 天前
GPT-6 Astra API怎么接?Responses API迁移、异步工具调用与兼容项清单
人工智能·chatgpt·大模型·openai api·gpt-6 astra