为什么你的RAG效果差?可能PDF没准备好!

将 PDF 转成文本这件事,过去是"能做到",现在是"轻松做到"。

最近我搭建了一个图数据库(Graph Data Store),用于 RAG 系统 ------ 换句话说,我们做了一个 GraphRAG。

为什么用 GraphRAG?

相比常见的向量数据库**支持的 RAG,Graph RAG 有个巨大优势 ------ 推理能力更强。比如:

问题 A:「XYZ 公司去年 CFO 是谁?」

这种问题,向量搜索就能搞定,因为年报里通常直接写了。

但换成这样:

问题 B:「XYZ 公司有哪两位董事是同一所学校毕业的?」

如果年报没有直接提学校名,向量搜索就"废了"。GraphRAG 就能玩得转,因为它能推理出隐含关系。

但问题来了 ------ 怎么构建这个图?

我最近写了一篇文章专门讲这个问题。但如果我们再往前一步想:怎么从 PDF 里提取信息来构建知识图谱?

这篇文章就来讲这个过程。


🛠️ 如何把 PDF 转成结构化富文本?

所有的工程步骤都从一件事开始:把 PDF 变成文本数据

但问题是 ------ 年报不是普通 PDF,它们包含大量图表、表格、结构化数据。这些内容都非常关键。

大多数 Python 开发者用过 PDF 解析库,比如:

PyPDF2 ------ 超老牌,能用,但很简陋。•PyMuPDF4LLM ------ 能直接把 PDF 转成 Markdown 格式。•Docling ------ IBM Deep Search 出品,提取效果惊艳。•Marker ------ 另一个很新的工具,表现也不错。

我们依次测了一下这几个工具的效果。


✅ 各工具提取效果对比

PyPDF2:纯文本提取,没有任何结构。段落、标题、表格、列表,全都混成一堆。

PyMuPDF4LLM:能转成 markdown,有结构信息,LangChain** 等框架支持,但表格效果拉胯。

Docling:表现最强!能保留标题层级、表格结构、甚至给图片加占位符**。

Marker:也不错,但整体信息保留度不如 Docling。

所以最后我们选了 Docling 作为主工具。


⚠️ Docling 的问题:太慢了!

我们做了一个实验,把年报里包含文字、表格、图片的混合段落提取出来,放在不同页数的 PDF 中,测试不同工具的处理速度。

结果如下:

Docling :每页大概 4 秒•Marker :每页大概 8 秒•PyPDF2:飞快,但结构信息很少

如果你要处理几十份报告(比如 50 份,每份 300 页),那就意味着:

复制代码
300页×50份×4秒÷3600秒≈17小时

这还可以接受。但如果扩展到 S&P500 所有公司的 30 年年报 ------ 就得处理上百万页。

靠单机做是不现实的,所以我们选择了:


☁️ 云服务 + 并行处理

我们用云服务搭了一个转换服务,可以并行处理 PDF,提取结构化 Markdown,然后自动更新 GraphDB。

这个架构可以很好地扩展,未来接更多数据没问题。


✅ 最终结论

工具 结构信息 表格提取 速度
PyPDF2 非常快
PyMuPDF4LLM 中等 中等
Marker 中等 中等
Docling 最佳 最佳

所以,我们最后选择:

结构提取用 Docling大规模处理时,用云服务并行跑如果你对速度极度敏感,PyPDF2 还是最快的选择


🙌 总结

PDF 转 Markdown 的工具这些年进步巨大,但 表格提取仍然是个挑战。

我们比较了四个开源工具,最后用 markdown 构建了图谱,并在 GraphRAG 系统中实现了应用。

Docling 是效果最好的提取工具,但速度较慢 ------ 所以我们搭了云服务来处理。

这就是我们在从 PDF 到智能图谱路上的第一步!🚀

原文地址:https://mp.weixin.qq.com/s/ykMEHkV-Pep86ip9J0JoLw

相关推荐
武子康2 小时前
调查研究-186 LangChain 和 LangGraph 的区别:从快速构建 Agent 到生产级工作流编排
人工智能·langchain·llm
沉默王二3 小时前
面试结束后,我反问:“就面个实习至于上这么大强度吗?”面试官:“你对 RAG、Agent、MCP、Skill 理解得很到位,所以要求高一点。”
面试·agent·ai编程
怕浪猫3 小时前
第一章:AI Agent概览:开启智能体时代
aigc·agent·ai编程
Cosolar4 小时前
藏在 Claude Code 里的极致浪漫:完整 187 条 Spinner Verbs 全收录
后端·程序员·代码规范
JouYY4 小时前
简单聊一下Harness层中的人机协同(HITL)
前端框架·llm·agent
leeyi5 小时前
Multi-Agent:让多个 AI 分工协作完成复杂任务
后端·aigc·agent
混沌福王5 小时前
Electron三端统一架构:运行时Adapter、IPC能力边界与分层设计
人工智能·agent·ai编程
AINative软件工程5 小时前
LLM 应用的 Bad Case 反馈闭环工程:别再把用户差评丢进客服表了
llm·openai·agent
HjhIron5 小时前
🤖 一文搞懂 AI Agent 核心概念:从 LLM 到 Tools,手写一个“股票查询 Agent”
agent
贵慜_Derek5 小时前
《从零实现 Agent 系统》连载 32|闭集 IE 与小模型:分类、意图与字段抽取
人工智能·架构·agent