RAG-day11

一、RAG 常见面试必问:三种检索误区

1. 只依赖向量检索

问题:只靠语义匹配,遇到专业名词、法规编号、固定关键词,搜不到、匹配不准。解决:必须搭配 ES 关键词稀疏检索,做混合检索。

2. 分块越大越好 / 越小越好

  • 块太大:内容杂乱,无关信息多
  • 块太小:一句话被切碎,语义不完整正确:根据文档类型,选递归 / 父子 / 重叠分块,适中切分。

3. 把所有检索结果都喂给大模型

问题:不做重排、不做压缩,垃圾内容也塞进去,容易跑偏、出幻觉。正确:加 Rerank 重排 + 上下文压缩,只留高相关内容。

二、RAG 上下文窗口限制(很好懂)

每一个大模型都有最大能容纳的文字长度 ,叫上下文窗口。意思就是:一次不能塞无限多文档,塞多了模型处理不了、还浪费费用。所以必须做:重排筛选 + 上下文压缩,精简内容再输入。

三、RAG 对话记忆能力(多轮对话)

用户不是只问一句,会连续追问、关联上一句问题。比如:先问 "乌干达鲜鱼标准",再问 "那检疫要求呢"。模型要记住上文对话内容,才能理解省略的问句。实现方式:把历史对话一起拼进去,作为上下文传给大模型。

四、RAG 本地部署 vs 在线调用

在线调用

调用网上现成大模型(通用大模型接口)优点:省事、不用自己运维缺点:有网络依赖、数据有外传风险

本地私有化部署

把大模型、向量库、RAG 全部部署在自己服务器 / 电脑优点:数据不外泄、内网可用、隐私安全缺点:需要机器配置高、要自己维护

五、RAG 适合做什么、不适合做什么

适合

  1. 企业私有文档、规章、法规、手册问答
  2. 知识库客服、内部资料查询
  3. 行业固定知识答疑、文档解析

不适合

  1. 需要实时最新热点新闻
  2. 纯创意写作、无资料支撑的脑洞内容
  3. 复杂数学推理、专业深度科研论证

六、RAG 整体优化总结(极简 5 条背会就能面试)

  1. 分块策略选对,不偏大也不偏小
  2. 用 ES + 向量 混合检索,兼顾关键词和语义
  3. 加 Rerank 重排,精选高相关内容
  4. Query 改写 + 上下文压缩,精简输入
  5. 多轮对话带入历史上下文,理解连贯提问
相关推荐
XLYcmy1 小时前
DeepMMSearch-R1: Empowering Multimodal LLMs in Multimodal Web Search论文分享
llm·sft·强化学习·多模态·苹果·rag·检索
java_logo2 小时前
Docker 部署 Milvus:轻松搭建高性能向量数据库平台
数据库·docker·私有化部署·milvus·向量数据库·rag·轩辕镜像
宁渡AI大模型6 小时前
河南宁渡科技有限公司|宁渡课堂 AI 全栈面试分享,AI 应用开发高频考点汇总
java·c++·人工智能·python·深度学习·神经网络·rag
码农飞哥7 小时前
企业级RAG系统架构详解
java·人工智能·ai编程·rag·ai应用
letisgo57 小时前
JAVA 高级进阶18篇《生产级RAG:切分、检索、评估与Graph RAG全链路实战》
java·面试·检索增强·rag·graph rag
不是株8 小时前
RAG 检索基础:多路表示、向量数据库与索引
rag
Joy T9 小时前
Spring AI 2.0 进阶入门:RAG、Structured Output 与 Agent 信息闭环
java·人工智能·spring·rag·springai·agent入门
AI-Frontiers1 天前
智能体化检索增强生成:关于智能体化 RAG 的综述
rag
四点半-企业AI获客1 天前
AI搜索引用机制拆解:从抓取、解析到引用打分的完整链路
人工智能·geo·rag·ai搜索·搜索引擎优化
龙骑士baby3 天前
重建 AI 认知第 6 篇:RAG——答案不在"检索 + 生成"这四个字里
ai·llm·rag