为什么你的RAG效果差?可能PDF没准备好!

将 PDF 转成文本这件事,过去是"能做到",现在是"轻松做到"。

最近我搭建了一个图数据库(Graph Data Store),用于 RAG 系统 ------ 换句话说,我们做了一个 GraphRAG。

为什么用 GraphRAG?

相比常见的向量数据库**支持的 RAG,Graph RAG 有个巨大优势 ------ 推理能力更强。比如:

问题 A:「XYZ 公司去年 CFO 是谁?」

这种问题,向量搜索就能搞定,因为年报里通常直接写了。

但换成这样:

问题 B:「XYZ 公司有哪两位董事是同一所学校毕业的?」

如果年报没有直接提学校名,向量搜索就"废了"。GraphRAG 就能玩得转,因为它能推理出隐含关系。

但问题来了 ------ 怎么构建这个图?

我最近写了一篇文章专门讲这个问题。但如果我们再往前一步想:怎么从 PDF 里提取信息来构建知识图谱?

这篇文章就来讲这个过程。


🛠️ 如何把 PDF 转成结构化富文本?

所有的工程步骤都从一件事开始:把 PDF 变成文本数据。

但问题是 ------ 年报不是普通 PDF,它们包含大量图表、表格、结构化数据。这些内容都非常关键。

大多数 Python 开发者用过 PDF 解析库,比如:

•PyPDF2 ------ 超老牌,能用,但很简陋。•PyMuPDF4LLM ------ 能直接把 PDF 转成 Markdown 格式。•Docling ------ IBM Deep Search 出品,提取效果惊艳。•Marker ------ 另一个很新的工具,表现也不错。

我们依次测了一下这几个工具的效果。


✅ 各工具提取效果对比

•PyPDF2:纯文本提取,没有任何结构。段落、标题、表格、列表,全都混成一堆。

•PyMuPDF4LLM:能转成 markdown,有结构信息,LangChain** 等框架支持,但表格效果拉胯。

•Docling:表现最强!能保留标题层级、表格结构、甚至给图片加占位符**。

•Marker:也不错,但整体信息保留度不如 Docling。

所以最后我们选了 Docling 作为主工具。


⚠️ Docling 的问题:太慢了!

我们做了一个实验,把年报里包含文字、表格、图片的混合段落提取出来,放在不同页数的 PDF 中,测试不同工具的处理速度。

结果如下:

•Docling :每页大概 4 秒•Marker :每页大概 8 秒•PyPDF2:飞快,但结构信息很少

如果你要处理几十份报告(比如 50 份,每份 300 页),那就意味着:

复制代码
300页×50份×4秒÷3600秒≈17小时

这还可以接受。但如果扩展到 S&P500 所有公司的 30 年年报 ------ 就得处理上百万页。

靠单机做是不现实的,所以我们选择了:


☁️ 云服务 + 并行处理

我们用云服务搭了一个转换服务,可以并行处理 PDF,提取结构化 Markdown,然后自动更新 GraphDB。

这个架构可以很好地扩展,未来接更多数据没问题。


✅ 最终结论

工具 结构信息 表格提取 速度
PyPDF2 差 差 非常快
PyMuPDF4LLM 中等 差 中等
Marker 中等 中等 慢
Docling 最佳 最佳 慢

所以,我们最后选择:

•结构提取用 Docling •大规模处理时,用云服务并行跑 •如果你对速度极度敏感,PyPDF2 还是最快的选择


🙌 总结

PDF 转 Markdown 的工具这些年进步巨大,但 表格提取仍然是个挑战。

我们比较了四个开源工具,最后用 markdown 构建了图谱,并在 GraphRAG 系统中实现了应用。

Docling 是效果最好的提取工具,但速度较慢 ------ 所以我们搭了云服务来处理。

这就是我们在从 PDF 到智能图谱路上的第一步!🚀

原文地址:https://mp.weixin.qq.com/s/ykMEHkV-Pep86ip9J0JoLw

相关推荐
ZhengEnCi2 小时前
同样的模型,为什么本地和云 API 差别那么大:量化精度、聊天模板与采样参数的三大元凶
人工智能·算法·llm
lgcgkCQ2 小时前
【AI 转型实战 1】SpringAI 入门:搭建基础大模型对话能力
java·ai·agent·rag·spring ai·mcp·langchain4j
vilya2 小时前
Agent 语音引擎换心记:从「够用」到「稳且好」
人工智能·agent
goehou2 小时前
ReAct 循环跑偏的三种样子,以及怎么在工程上兜住
llm·agent·react·工具调用·工程实践
ZhengEnCi5 小时前
Agent 如何进行工具调用:从一次 Function Calling 到生产级工具编排的完整链路
llm·agent·ai编程
深蓝AI6 小时前
一个版本号失守:Claude Code 2.1.313 扩展后门事件,开发者机器如何变成别人的 SSH 入口
安全·程序员
噜哥带你玩转 AI 大模型6 小时前
从 “if-else“ 到 Agent:Dify 进阶实战,让 AI 自己判断、自己调工具
agent·工作流·dify·多轮对话·httpapi
威哥爱编程6 小时前
Python 智能体开发实战 05:一问教材内容它就编?先把答案从你自己的资料里检索出来
python·agent
java_prinln6 小时前
RAG 面试题介绍
python·agent