技术栈

rag性能优化

木亦汐丫
2 天前
bic·rag·gm·ragflow·graphrag·raptor·rag性能优化
【大模型系列篇】RAGFlow递归抽象处理树组织检索:Raptor检索增强型语言模型可以更好地适应世界状态的变化,并整合长尾知识。 然而,大多数现有方法只从检索语料库中检索较短的连续块,限制了对整体文档上下文的整体理解。 我们引入了一种新颖的方法,即递归地对文本块进行嵌入、聚类和摘要,自下而上构建一个具有不同摘要级别的树。 在推理时,我们的 RAPTOR 模型从这棵树中检索,整合不同抽象级别的长文档中的信息。对照实验表明,使用递归摘要的检索在多项任务上比传统的检索增强型 LLM 有显著的改进。 在涉及复杂、多步推理的问答任务中,我们展示了最先进的结果;例如,通过将 RA