💡 一句话总结 :「先把图表解析成结构化文本,再让 LLM 推理」是个听起来很美的省钱方案------复用、可检索、省 token。这篇论文做了个干净利落的体检:同一个模型、同一套题,喂它源结构的真值文本能考 87 分,喂它自己从图片提取的文本只有 23 分。修好了所有格式错误只涨 0.7 分;而只要丢掉答案需要的那一条边,再像原图也没用。
导语:一个流行架构的「病因不明」难题
这两年「图像→结构化文本→推理」的管线很火:DePlot 把图表转成表格再推理,各种文档解析器把流程图、截图转成 JSON 喂给语言模型。卖点很直白:文本可以复用、可以检索、推理时比图像省 token------毕竟让模型「看图思考」又贵又慢,而「读文本思考」又快又便宜。
但实践中有个反复出现的怪象:文本化之后,模型答题反而更差了。为什么会差?这背后其实藏着两种完全不同的病:
- 病一(获取失败):提取器漏掉了问题需要的信息------图上明明有那条边,转文本时丢了;
- 病二(求解失败):信息都在文本里,但求解器没能用好它。
这两种病的药方天差地别:前者该改进提取器,后者该改进求解器或换表示格式。而端到端准确率一个数字,根本分不清死因。Tulane 大学和 Virginia Tech 的团队(Yunbei Zhang、Janet Wang、Jihun Hamm、Chandan K. Reddy)给这个「病因不明」难题开了一个诊断协议,代码开源在 github.com/yunbeizhang...。
想自己动手试?
- 📄 论文:arXiv 2609.39142
- 💻 代码:github.com/yunbeizhang...
它的思路是什么?------给文本化做「三阶梯造影」
诊断的核心思想简单粗暴:固定求解器,只换输入,做对照。同一个 Qwen3.5-122B-A10B(8192 token 上限、温度 0、关思考),三种输入条件各考一遍 720 道流程图题(FlowGen 数据集保留的 240 张图,每张 3 道源派生问题:找前驱/后继节点、读边关系、算最短路长度):
- direct:直接喂原图;
- learned :喂模型自己从图提取的结构化文本(提取时不许看问题------模拟真实管线);
- gold:喂从图的源数据直接导出的真值结构。
然后定义两个差距:获取差距 (learned − gold,负得越多说明「提取环节」丢效用越多)和充分性差距(gold − direct,正得越多说明「好结构」对推理越有用)。
这个设计还配了两把手术刀:
- 有效性恢复测试:把所有格式非法的提取结果重试到合法为止(升预算、归一化、再试一次),但绝不许用问题或答案来挑文本。如果差距是「格式烂」造成的,这招应该救回来。
- 匹配干预实验 :从真值结构出发,做「改一条答案相关边」vs「改一条答案无关边」的匹配对照------同类型、同数量的编辑,唯一变量是错误的位置。
效果到底怎么样?------三个数字,三次反转
第一组数字:差距大得离谱。 gold 结构 87.1%,直接看图 27.2--28.8%,模型提取的文本 22.8%。获取差距 −64 个百分点------「给你图源的真值文本」和「给你提取出的文本」之间隔着一条马里亚纳海沟。
第二组数字(第一次反转):修格式几乎没用。 有效性恢复把 schema 合法率从 82% 修到 99%+,准确率只涨 0.7 分。结论很硬:解析成功 ≠ 内容正确。格式能被消费,不代表节点、边、标签忠实还原了原图。而在受控生成的程序流程图和布尔电路上,同一套恢复策略能让提取文本的分数追平直接看图------说明「低成本格式错误」可以修,公共集上这个差距是语义层面的,修不动。
第三组数字(第二次反转):难度把差距越拉越大。 10 节点以内的小图,learned−gold 差距 38.8 分;21--40 节点的图,差距拉到 85.2 分。分支深度同趋势。直接看图也比 gold 退化得快------难题对「从像素出发」的两条路都不友好,只有源结构一直稳在 70% 底线之上。

最锋利的一刀:一条边决定生死
如果说前面是「相关性」,干预实验给的是「因果性」。
从真值结构出发,只改一条答案相关边 (反转、删除或改向),122B 模型按原答案计分的准确率直接掉到 0--3.5% ;改一条匹配的答案无关边 (同类型同数量),准确率保住 92.4--93.9%。
这是什么概念?几十处无关的结构错误几乎无害,一处关键错误全盘皆输。所以「提取结果整体像不像原图」(全图拓扑匹配度)是个很差的质检指标------它把「丢了一条致命边」和「丢了十条废边」一视同仁。论文的数据也印证了这一点:用「问题相关拓扑」预测答题对错,比用「全图拓扑」预测得更准(Brier 损失 0.1406 → 0.1147)。
这给所有做文档解析的团队一个直接的行动指南:评估提取质量时,按「问题/任务需要的结构」加权,别用整体相似度。
顺便算笔账:文本化到底省不省钱?
结果是三段式的:
- 真值结构确实省钱:解题 token 比直接看图少 81.8%;
- 但获取本身要花钱:把提取成本(含失败重试)摊进来,单次使用(K=1)时文本路线反而更贵;
- 复用(K=3)能省 token,但补不回精度差距------省钱和答对,在这条管线上目前是两件事。
作者的判词相当克制:「高效的文本接口,未必带来高效的端到端替代。」
泼冷水时间
这篇论文最值得称赞的是它对自己的狠------局限清单写得比结论还长,几个关键点:
- gold 拿到了图上看不到的信息 :作者事后审计发现,205 道关系题里有 142 道的目标关系(connectedTo、partOf)根本没印刷在图上------是源数据的隐藏约定。gold 在这些题上近乎全对、其他路线全灭。所以 87% vs 23% 的总差距不能解读为「纯提取误差」,它混入了「源结构独享的暗知识」。
- 编码不一致:learned 和 gold 用的图编码格式不同(实体关系对象 vs 三元组字符串),差距里混着「表示-求解器兼容性」因素。
- 范围限于 FlowGen 的 Diagrams 渲染器、源派生问题、一个模型家族;最短路问题族 gold 也只有 66.7%,说明部分题目存在求解器侧的额外瓶颈。
- 反例也如实报了:换一个数据集(QZhou),提取文本 71.0% 反超直接看图 69.8% 和源结构 67.7%------源结构是诊断参照系,不是普遍最优解,每个场景都要重新验证。
理性看待
这篇论文真正的贡献不是「文本化不行」------恰恰相反,它给出了一个什么时候文本化会不行、为什么不行的可操作判据。三阶梯协议(图 / 问题盲文本 / 源结构)本身就是一套可以原样搬走的质量审计方法:任何做「图像→文本→下游」管线的团队,都该给自己的提取器做一次这样的造影------你的差距是获取侧的(该练提取器),还是求解侧的(该换表示或调求解)。
而干预实验那句结论值得贴在工位上:决定答案的从来不是你恢复了多少结构,而是你有没有保住答案需要的那几条边。 87% 对 23% 的鸿沟里,装着的不是模型推理能力的不足------同一个模型读真值文本能考 87 分------而是提取环节在无声无息地弄丢关键证据。
从这个角度说,这篇论文和同期的 EVICALC、TRACE 其实是同一首歌的三个声部:文档智能的瓶颈已经不在「模型够不够聪明」,而在「证据有没有被完整、按正确身份、带着关键结构送进上下文」。
(数据与结论均来自论文原文,解读部分为作者观点,欢迎交流。)