今天细致聊聊RAG(检索增强生成):RAG是目前的大模型(LLM)领域里一门常用的技术.可以用来缓解大模型的幻觉问题(大模型的训练的知识都有一个截至日期,超过这个日期的事就不知道了),更多常见的应用是用来部署在企业内部,来解决企业里面一些私有知识的问答.替代Iora微调带来的高成本风险,转而是一种快捷的,便利的,低成本的,安全的方案.RAG技术主要分为两个阶段:离线阶段:这个阶段也是数据的准备阶段.大致过程就是:先是获取各种文档,例如:PDF,HTML等完成加载,然后是将这些文档按照一点过的规则进行切块处理,然后是向量化:使用嵌入(向量)模型将文本转换为高维向量..最后是将文本块及其相应的向量存入专门的向量库.例如Milvus,FAISS等.在线阶段.这里主要是完成文本的检索阶段.大致过程是:先是获取用户的提问,,进行切块处理,然后用相同的嵌入(向量)模型对切块部分进行向量化.最后是去向量库中通过相似度(不同的向量库,用到的是不同的相似度.例如Milvus用到的是余弦相似度,Chroma用到的是欧式距离)找出最关的TOP-K个文本片段.如果配合大模型的话.最后生成的TOP-K个片段连同用户提示词一起投给大模型,大模型基于这个增强版的提示词(这个提示词的部分就是文档里面的专业知识的解析,是大模型没有学到的私有知识或者是一些时效性更强的一些知识,是在大模型训练阶段完成之后的知识.)完成问题的输出部分.另外:在高级 RAG 架构中,还会加入"重排序(Rerank)"机制,对初步检索的结果进行二次打分和过滤,以确保喂给大模型的上下文质量最高.
相关推荐
伞伞悦读1 小时前
【第92期】逻辑回归的分数概率与阈值的实验与排查7177772 小时前
互联网企业研发平台推荐:从工具堆叠到一体化协同的选型逻辑立青.2 小时前
AI大模型术语土豆12504 小时前
你只说要什么,它负责拆活交付:任务编排插件上手指南GoldenSpider.AI6 小时前
讲透 Claude Code 的 Code Mode:原理、流程、用法与 24 轮实测oak隔壁找我6 小时前
一款运行在 DSH(DeepSeek Harness)中的工作区文件管理插件江屿风6 小时前
AI Agent架构全解析:从规划到记忆的智能跃迁ZONGYUAN-ROOT6 小时前
【API配额】多源 LLM API 配额池化实战:轮换调度、变化量监控、故障自愈一套方案(Python 完整实现)syso_稻草人6 小时前
qwen-image-2.1 高清放大拆解:Qwen21LatentUpscale 潜空间 2x + denoise 0.35 修细节,12 组场景实测