RAG 准确率提升体系化方案

摘要

RAG（检索增强生成）受限于大模型固有的随机性与幻觉倾向，无法达到 100% 准确。从检索与生成两端源头抑制错误产生，通过多重校验机制识别并拦截不可靠输出，在极端场景下控制错误扩散。目标并非追求绝对正确，而是将出错概率压缩到可接受范围。

关键词：RAG；准确率保障；混合检索；幻觉检测；阈值控制；人工复核；全链路日志

RAG 无法实现 100% 准确率 $4$ ，这是大模型固有的随机性决定的。

大模型的随机性源于采样解码机制，幻觉则来自训练分布偏差 $1$ ------二者均为架构级固有属性，调参只能缓解、无法根治。将 temperature 归零仅消除采样扰动，若错误答案在分布中已占高位，贪心解码仍会稳定输出错误结果。

类比物流体系，日均亿级包裹必然存在出错，但通过流程设计将错误率压至极低水平。RAG 同理，正确目标是从工程与业务双维度降低出错概率，而非追逐不可能的零错误。

手段	说明
混合检索	稠密向量捕捉语义、稀疏向量锁定精确匹配，双路融合兼顾两类查询
切片优化	按语义边界切分文档，保留上下文重叠，防止信息碎片化
元数据打标	入库时附加结构化标签（类别/时间/来源），支持按业务场景过滤召回

核心思路：将模型视为不可信的文本处理单元，用结构化契约约束其自由发挥空间。

图1 架构层保障机制

在输出链路上增设轻量校验模型，逐条比对生成内容与检索原文的匹配程度 $2$ ------全部有据放行，部分存疑标记，完全无据拒答。

回答同步展示原文引用来源与具体内容，使用户可自主比对验证。将信任关系从"盲信模型"转为"用户可核验"。

面向医疗、法律、金融等高风险行业构建领域词库，命中时校验模型对关键词的解释是否与原文一致，防止关键信息被流畅编造。

图2 防护层校验流程

对检索相似度设定门槛，低于阈值时直接拒答而非让模型强行生成，阈值通过离线标注与线上 A/B 标定。

高风险操作（处方开具、合同条款）在自动回答后增设人工确认环节 $3$ ，低风险场景放行、高风险场景先进审核队列。

完整记录提问、检索、生成全流程数据，支持问题回溯与错误归因（检索侧 or 生成侧），驱动工程体系持续迭代。

图3 兜底机制决策流程

三层关系：架构层管事前抑制，防护层管事中拦截，兜底层管事后止损。

承认 RAG 不可能零错误，用三层方案将概率压低、代价兜住，是工程实践的核心答案。