RAG的一点思考

RAG有一个很典型的模块叫文本切块,然后检索。切块部分可以按window窗口切,检索部分也可以多路径检索,兼具稀疏检索,稠密检索和数据流检索。

这个流程和token化,然后embedding很像,所以我今天就陷入了迷茫?

因为一个RAG框架效果不好,你怎么定位是检索问题还是切块问题呢?

同学回答,其实两个很像,但是不一样,RAG切块可以大块的按照一段一页那种切,token化是按照最小语义切分,一个词或者一个字。所以定位问题时既要考虑检索,也要考虑生成。检索就要尝试可视化分块部分。

最近在学agent,hugging face的教程很不错。

相关推荐
叫我Paul就好5 小时前
RAG 从入门到精通 - 基础版本
人工智能·软件工程·rag
小程故事多_8016 小时前
边缘端OCR+RAG文档智能问答系统,落地实践与全场景解析
ocr·rag
染指11101 天前
61.RAG-RAG存在的问题
人工智能·llama·rag·llama_index·llamaindex
独码侠2 天前
Dify 开源深度实践:从企业部署到二次开发的全景拆解
知识库·dify·rag·ai工作流
Esaka_Forever2 天前
RAG、提示工程、微调三大方案场景完整梳理与补充总结
rag
要开心吖ZSH4 天前
AI医疗分诊与健康咨询助手agent开发——(4-2)从零到一:我给AI医疗分诊助手加了个“知识库大脑“,终于搞懂了RAG是什么
java·docker·agent·医疗·rag
sugar__salt4 天前
Document 切割:RAG 知识库数据预处理实战
javascript·langchain·embedding·js·rag·cheerio
@atweiwei4 天前
Langchainrust:中LLM-as-a-Judge,用 Rust 实现一套 LLM 评估系统
开发语言·后端·ai·rust·llm·rag
呆呆敲代码的小Y5 天前
RAG 表格解析完全指南:xParse、PaddleOCR、MinerU 实测对比并接入Agent使用
ai·llm·agent·rag·表格解析·xparse
染指11106 天前
56.llama_index-查询引擎
人工智能·llama·rag·llama_index·llamaindex