RAG概述
RAG(Retrieval-Augmented Generation,检索增强生成)融合了智能检索与知识库技术,通过知识库驱动内容生成,具备强大的可解释性和深度定制能力。应用可通过接入Data Augmentation Kit提供的RAG能力,快速实现知识问答、智慧助手等业务场景。本模块还支持通过模板灵活配置RAG运行的核心参数,实现全流程的深度定制。
其工作原理为:请求大语言模型解析用户问题,智能检索知识库内容,最终由大模型融合检索结果并生成自然流畅的回复。下文将以流式的知识问答场景为例,详细说明RAG的使用。

知识问答
知识问答是通过检索增强生成(RAG)技术,从数据源中精准提取信息并生成答案的智能交互方式。可用于企业客服、医疗辅助、IT支持等领域。
约束限制
-
知识问答需要先对数据源库进行知识加工生成知识库,否则无法问答。
-
用户问答时,RAG可使用的历史记录范围为最近1次问答内容。
-
RAG不提供敏感词风控检测能力,开发者需要自行对用户输入内容和RAG返回内容进行敏感词风控检测。
-
开发者应选择上下文长度至少应该为30k Tokens的LLM,如Qwen2.5-7B-32K、Mistral-7B-Instruct-v0.2、Llama-3.1-8B等。否则可能会因大模型上下文长度超限而导致知识问答失败。
-
LLM由开发者自行选择,问答支持的语言受选择的LLM影响。