今天聊聊RAG技术:RAG(检索增强生成)是配合LLM解决企业内部私有知识问答的关键技术.LLm能力很强,但没有获取企业内部私有知识的权限,设想有这样一个业务场景:客户询问某企业内部相关知识的信息,有一个系统能够结合企业内部的相关信息,对客户的提问做出精准回答.而这就是RAG技术解决的问题.RAG具体过程是两个板块:离线知识库的搭建和在线检索两个阶段.离线知识库搭建:准备企业内部相关文档,实际情况,通常是选择markdown格式.用相应的文档加载器读取,相应文档加载器在langchain框架下有相应提及,然后就是将分档分块,langcahin框架下也有相应切割器.切块大小有讲究.对切后的块选择相应的向量模型,转化成向量.前面介绍过bge-m3这个向量模型,一般就是将块同时转化成稀疏和稠密向量.然后就是对块的保存.通常是选择milvus向量库存储.在前面也聊过milvus向量库的优点.支持混合检索(稀疏和稠密向量检索,其他也行).然后就是对每个块保存原始内容和向量化之后的内容.建立对每个块的索引,通常还需设定溯源字段(便于后续追踪).在线检索阶段:一般选择混合检索.这里的混合检索采用的是稀疏和稠密检索.为什么这样?稀疏检索是对用户问题里面的关键词进行精准匹配.稠密检索是对用户问题的语义上面的深度捕捉.混合检索实现了对用户问题的精准查找.也是多数企业选择的方式.先是接收用户的问题query,然后和离线知识库搭建过程的相同向量模型对query进行转换为稀疏和稠密向量.分别去和数据库的每个向量计算相似度,最后pymilvus提供两种融合策略.RRF和Wightedreranker.选出top-k.最后这一步,一般还需一个向量模型对上面选出的top-k进行精排,再返回几个分数最高的向量块,最后定位到原始切块,拼接用户的query一起返给大模型.写好提示词,返回给用户相应的回答,这就是RAG的大致流程.
相关推荐
OPEN-F几秒前
Python进阶教程：装饰器与生成器深入qq407855602 分钟前
进销存发展新态势：企业应当规避哪些数字化建设误区？zhipujiaoyu6 分钟前
2026年大数据专科何去何从？就业前景、发展趋势全揭秘！TechEdu2026069 分钟前
[人工智能]Claude、GPT、Gemini、Copilot与Llama：概念、架构、应用与评估l12586522 分钟前
# RAG噪声知识库治理：一致性与可信度的四层防线设计zoujiahui_201824 分钟前
别再只写 np.random.seed() 了：default_rng 与 np.random、random 到底差在哪？Patrick在香港27 分钟前
Claude Agent 进阶：4 种工具调用编排模式，让 0820 那 13 个 endpoint 并行起来骥龙32 分钟前
10：未来趋势 | 大模型与AI工具的2026-2027学代码的CJY40 分钟前
Codex + Obsidian：搭建你的 AI 知识库（保姆级教程）QC777LX44 分钟前
CAIE认证二级：职场加分，还是能力跃迁？