RAG工作流程的执行时机

RAG工作流程的执行时机如下:

  1. 文档加载和向量存储(前两步):

    • 这部分是在项目启动时或首次创建VectorStoreService实例时处理的
    • VectorStoreService类的load_document方法会:
      • 从数据文件夹读取文档
      • 分割成小块
      • 使用嵌入模型将文本转换为向量
      • 存储到向量数据库中
      • 计算文件MD5值进行去重,避免重复加载
  2. 用户查询处理(后四步):

    • 这部分是在用户发送请求时处理的
    • 当用户提问时,系统会:
      • 将问题转换为向量
      • 在向量空间中检索最相似的文档片段
      • 将检索到的文档作为上下文传递给大语言模型
      • 模型基于上下文生成准确的回答

执行流程

  1. 项目启动时,VectorStoreService会加载数据文件夹中的文档并处理为向量
  2. 用户发送查询时,RagSummarizeService会调用检索器获取相关文档
  3. 将检索到的文档与用户查询一起传递给模型
  4. 模型生成基于上下文的回答

这种设计使得系统在启动时完成了耗时的文档处理工作,而在用户查询时能够快速响应,提高了系统的性能和用户体验。

相关推荐
HIT_Weston6 分钟前
183、【Agent】【OpenCode】TuiThreadCmd(JS&TS 历史)
人工智能·agent·opencode
蓝狐社13 分钟前
你的软件越来越卡,是因为它多了个AI
人工智能
万悉科技15 分钟前
AI时代的“搜索战争“变了:从关键词排名到意图匹配,品牌正在大模型的注意力机制里“失声“
人工智能
W_3260017 分钟前
Python-OpenCV HSV颜色空间与inRange颜色分割:按颜色提取目标物体
图像处理·人工智能·python·opencv·机器学习
小小测试开发22 分钟前
Agent 安全测试:pytest 原生红队框架 RAMPART 实战解析
人工智能·pytest
FunTester22 分钟前
DeepSeek Harness 常用插件介绍
人工智能·语言模型·常用插件·deepseek·harness
九硕智慧建筑一体化厂家25 分钟前
楼宇自控|智慧建筑核心引擎!楼宇自控系统,赋能建筑高效低碳运维
运维·人工智能·笔记·智慧城市
byte轻骑兵31 分钟前
【BlueZ 】蓝牙 SDAP 协议入门:BlueZ 中设备服务发现的基础逻辑
linux·人工智能·bluez·电脑蓝牙·嵌入式蓝牙
老衲の少女心36 分钟前
【AI项目】用 LangGraph 构建智能批改与解题系统:条件路由、SSE流式输出Agent工作流实践
人工智能
RobinDevNotes37 分钟前
K8s+Megatron-LM+vLLM打通超大模型训练全链路
人工智能·kubernetes