RAG工作流程的执行时机

RAG工作流程的执行时机如下:

  1. 文档加载和向量存储(前两步):

    • 这部分是在项目启动时或首次创建VectorStoreService实例时处理的
    • VectorStoreService类的load_document方法会:
      • 从数据文件夹读取文档
      • 分割成小块
      • 使用嵌入模型将文本转换为向量
      • 存储到向量数据库中
      • 计算文件MD5值进行去重,避免重复加载
  2. 用户查询处理(后四步):

    • 这部分是在用户发送请求时处理的
    • 当用户提问时,系统会:
      • 将问题转换为向量
      • 在向量空间中检索最相似的文档片段
      • 将检索到的文档作为上下文传递给大语言模型
      • 模型基于上下文生成准确的回答

执行流程

  1. 项目启动时,VectorStoreService会加载数据文件夹中的文档并处理为向量
  2. 用户发送查询时,RagSummarizeService会调用检索器获取相关文档
  3. 将检索到的文档与用户查询一起传递给模型
  4. 模型生成基于上下文的回答

这种设计使得系统在启动时完成了耗时的文档处理工作,而在用户查询时能够快速响应,提高了系统的性能和用户体验。

相关推荐
旋律翼22 分钟前
AI Prompt 工程化设计最佳实践(Harness Engineering)
人工智能·prompt
程序猿DD8 分钟前
AI Key 太多?我做了个统一管理工具
人工智能
元岳数字人小元20 分钟前
AI数字人交互系统:多场景落地应用价值解析
人工智能·人机交互·交互
pokemen邪121 分钟前
PyTorch KernelAgent 源码解读 ---(6)--- Composer
人工智能·pytorch·composer
陈天伟教授23 分钟前
图解人工智能(90)人工智能前沿-天文学家的助手
人工智能
aaPIXa62244 分钟前
C++采样引导优化SPGO——比PGO更智能的编译器决策新方案
java·c++·人工智能
2601_957190901 小时前
飞行影院安装施工指南:场地、动感系统与影片内容配套
大数据·前端·人工智能
ACP广源盛139246256731 小时前
IX9104 PCIe5.0 交换芯片@ACP#国产高端 AI PC 全搭配方案
大数据·人工智能·分布式·单片机·嵌入式硬件
her_heart1 小时前
把 ChatGPT 5.6 放进需求评审和测试设计之后,我反而减少了“一次成稿”的期待
网络·人工智能·网络协议·chatgpt·测试用例
YHHLAI1 小时前
Agent 智能体开发实战 · 第六课:MCP 协议 —— 让 Agent 跨进程调用工具
前端·人工智能