RAG工作流程的执行时机

RAG工作流程的执行时机如下:

  1. 文档加载和向量存储(前两步):

    • 这部分是在项目启动时或首次创建VectorStoreService实例时处理的
    • VectorStoreService类的load_document方法会:
      • 从数据文件夹读取文档
      • 分割成小块
      • 使用嵌入模型将文本转换为向量
      • 存储到向量数据库中
      • 计算文件MD5值进行去重,避免重复加载
  2. 用户查询处理(后四步):

    • 这部分是在用户发送请求时处理的
    • 当用户提问时,系统会:
      • 将问题转换为向量
      • 在向量空间中检索最相似的文档片段
      • 将检索到的文档作为上下文传递给大语言模型
      • 模型基于上下文生成准确的回答

执行流程

  1. 项目启动时,VectorStoreService会加载数据文件夹中的文档并处理为向量
  2. 用户发送查询时,RagSummarizeService会调用检索器获取相关文档
  3. 将检索到的文档与用户查询一起传递给模型
  4. 模型生成基于上下文的回答

这种设计使得系统在启动时完成了耗时的文档处理工作,而在用户查询时能够快速响应,提高了系统的性能和用户体验。

相关推荐
久违 °6 小时前
【AI-Agent】TagMatrix 数据标注工具开发
人工智能·数据分析·go·agent·数据隐私
AI360labs_atyun6 小时前
腾讯推出电子牛马Marvis,好用吗?
人工智能·科技·ai
Dfreedom.6 小时前
Windows、虚拟机、开发板组网通信原理及调试通联步骤
人工智能·windows·部署·边缘计算·开发板·模型加速
3DVisionary6 小时前
蓝光三维扫描:医疗制造的精度焦虑怎么解
人工智能·算法·制造·蓝光三维扫描·医疗制造·三维检测·义齿检测
Are_You_Okkk_6 小时前
基于MonkeyCode解析AI研发新模式,根治开发低效痛点
大数据·人工智能·开源·ai编程
好评笔记6 小时前
机器学习面试八股——常用损失函数
人工智能·深度学习·算法·机器学习·校招
weixin_468466856 小时前
全局与局部注意力机制新手实战指南
人工智能·python·深度学习·算法·自然语言处理·transformer·注意力机制
weixin_468466857 小时前
工业相机成像原理新手入门指南
人工智能·自动化·机器视觉·工业相机·光学·光学系统·成像原理
回眸&啤酒鸭7 小时前
【回眸】CSDN新增功能测评——AI数字营销之内容创作
人工智能
小糖学代码7 小时前
LLM系列:环境搭建:5.Python-dotenv 环境变量管理
人工智能·python·深度学习·神经网络