RAG实现大致流程

如上图所示,假如我们要参加临时考试,那我们有三种途径获取答案,1、直接查询数据 2、利用检索系统查询 3、LLM知识检索增强生成。第一种方法直接查询数据,这也是最笨拙的方法,第二种方法则是利用检索系统查询,我们需要构建很多 query-answer对,来方便我们快速检索答案,第三种则是RAG,结合大模型来快速生成答案。

图中RAG流程实现过程:

1.将外部知识库的资料,读取进行切片划分,然后再Embeding,转换成向量的形式进行存储,也就是存储在图中的vectordb中,当我们再输出query的时候,会将query也转换成vector,然后再进行相似度等方法计算,最后再进行Augmented,然后输入到LLM中,然后输出最终的大模型Generation的答案。

下图就是langchain存储外部知识库的一系列流程:

参考链接:链接

相关推荐
胡乱儿起个名2 分钟前
Relay算子注册(在pytorch.py端调用)
c++·人工智能·tvm·编译器·ai编译器
嘉图明13 分钟前
《从数据殖民到算法正义:破解AI垄断的伦理与技术路径》
人工智能·算法
shadowtalon27 分钟前
基于CNN的猫狗图像分类系统
人工智能·深度学习·神经网络·机器学习·计算机视觉·分类·cnn
蹦蹦跳跳真可爱58931 分钟前
Python----神经网络(《Deep Residual Learning for Image Recognition》论文和ResNet网络结构)
人工智能·python·深度学习·神经网络
极术社区42 分钟前
【“星睿O6”评测】Armv9.2a、KLEIDIAI及vulkan加速llamacpp部署本地AI
大数据·人工智能
森哥的歌43 分钟前
2024年AI发展趋势全面解析:从多模态到AGI的突破
人工智能·agi
豆芽8191 小时前
Vision Transformer(ViT)
人工智能·深度学习·目标检测·计算机视觉·transformer
Oliverro2 小时前
嵌入式音视频通话EasyRTC基于WebRTC技术驱动智能带屏音箱:开启智能交互新体验
人工智能·音视频
終不似少年遊*2 小时前
MindSpore框架学习项目-ResNet药物分类-模型优化
人工智能·深度学习·机器学习·计算机视觉·分类·数据挖掘·华为云
GpuGeek2 小时前
一文走进GpuGeek | conda常用命令
人工智能·conda·gpu算力·云平台