61.RAG-RAG存在的问题

内容参考于:图灵AI大模型全栈

RAG它实际上存在一些问题,需要考虑这些问题该怎样解决

RAG的流程

1.加载文件

2.读取文件中的文本

3.分割文本

4.文本向量化

5.存储到向量数据库

6.通过问题检索文档

7.检索完之后,把检索到的文档和问题拼接到一起组成一个新提示词,去问大模型回答问题

在一个论文中说了RAG的七个问题

论文地址:https://arxiv.org/pdf/2401.05856

如下图:论文中的图片,下图里的内容是索引和检索的过程

如下图红框是索引(Index Process)的过程,Documents是我们准备好的文档,Chunker是对文档进行分割,Chunks是分割后的文档,Database表示分割后的文档向量化并存放到向量数据库中,然后它的问题(MissingContent)

第一个就是说我们准备的文档中并没有答案,RAG就是为了解决幻觉和大模型不知道的问题,但是某些问题在我们准备的文档中就是没有答案,这种问题是一定存在的

第二个文档加载的效率和准确性的问题,pdf文档里面有图片、表格、文字信息这就是属于很复杂的文档,我们该如何保证这种复杂文档的加载和准确性,最主要的是保证准确性

第三个我们加载文档后,会对文档进行分割,怎么分割?分割的力度该怎样设置?依据是什么?检索出来的文档分片会不会影响上下文的完整性和Token消耗量

下图红框是检索过程(Query Process),Query是问题、Rewriter是问题重写(有些问题写的不好所以要重写)、NewQuery(重写之后的新问题)、Retriever(通过问题检索文档)、Chunks(检索到分片之后文档,在llamaindex中也就是节点Node)、Reranker(对文档进行重排)、RrankedChunks(重排之后的文档)、Consolidator(融合)、ProcessedChunks(融合之后的文档,也就是整理文档)、Reader(把"问题"和"上下文(文档)"拼在一起,生成提示词,准备问大模型)、Response(去问大模型获得答案)

然后它的问题

Missed Top Ranked:就是说检索出8个文档,排名靠前的文档和问题并不相关,和问题相关的文档可能排在第五、第六这样的

Not in Context:提取出来的上下文和问题无关,就是检索出来的文档和问题的相似度评分很低,我们就非要让它检索出5个文档,它就把不相关的5个文档提取了出来

Wrong Format:大模型返回的内容格式不正确,我原本是要json格式的数据,大模型它给我们返回的是纯文本

Incomplete:答案不完整,大模型根据问题只回答了一部分的答案

Not Extracted:我们给大模型的文档中存在答案,但是大模型没有识别出来,比如检索出10个文档,答案排在第5、第6、第7位置,大模型一般会关注与前面和后面几个,中间的会识别不好

Incorrect Specificity:答案不够详细或过于详细,


相关推荐
f6m274dww2cmd17 分钟前
拆一个类目第一的20个曝光词:43% 的搜索量来自第二页
人工智能
RobinDevNotes42 分钟前
24GB Mac 做数字人:声音放本地,画面租云端
人工智能·python·macos·开发工具
user4465117917911 小时前
Agent 也能「过安检」:AgentScope 权限系统设计拆解
人工智能
烟小栀2 小时前
Windows下的深度学习环境配置参考及配置教程
人工智能
tellmewhoisi2 小时前
深度学习0:数学知识:最大似然推导过程
人工智能·深度学习·概率论
oil欧哟2 小时前
从产品经理视角拆解 DeepSeek Super-agent:双层路由与异步调度架构
人工智能
张张123y2 小时前
个人助手型 Agent 的六个工程细节:Hermes 与 OpenClaw 的审批、委派、上下文与调度
网络·人工智能·开源·后端开发·ai agent
学无止境小袁同学3 小时前
LlamaIndex Workflows 学习
python·llm·tensorflow·llamaindex·agent开发·多agent·workflows
Dawson Zhu3 小时前
【模型量化⑦】W4A8与GPTQ-Int4:极限压缩与MLC-LLM部署实战
人工智能·语言模型·架构·aigc·agi
千寻技术帮3 小时前
50055_基于AI的互帮互助小程序(源码+文档+数据库脚本+部署教程)
数据库·人工智能·小程序·毕业设计·springboot·课程设计