阿里:端到端文档解析模型OvisOCR2

📖标题:OvisOCR2 Technical Report

🌐来源:arXiv, 2607.13639v1

🛎️文章简介

🔸研究问题:如何在不依赖复杂流水线的情况下,利用紧凑的端到端模型实现超越传统方法的文档解析性能?

🔸主要贡献:论文提出了OvisOCR2,一个0.8B参数的端到端文档解析模型,通过创新的数据引擎和训练策略,在OmniDocBench等基准上取得SOTA成绩。

📝重点思路

🔸构建混合数据引擎:结合真实文档与合成数据。真实数据经专用OCR解析、规则清洗及人工抽检;合成数据基于HTML模板生成,确保图像与Markdown标注严格对齐,覆盖长尾难例。

🔸多阶段训练策略:首先对Qwen3.5-0.8B和4B模型进行监督微调;随后在4B分支上使用GRPO算法进行强化学习,引入文本、公式和表格的多组件奖励;接着通过在线策略蒸馏将4B教师模型的知识迁移至0.8B学生模型;最后进行模型融合。

🔸优化强化学习训练:设计包含文本编辑距离、公式CDM和表格TEDS的综合奖励函数,并采用分层并行和快捷路径优化奖励计算效率,解决长序列生成的训练瓶颈。

🔎分析总结

🔸性能全面领先:在OmniDocBench v1.6上获得96.58的最高分,超越PaddleOCR-VL-1.6等主流流水线方法;在PureDocBench上Avg3得分75.06,同样位居第一。

🔸鲁棒性与泛化能力强:在涵盖手写体和复杂表格的内部基准测试中,OvisOCR2在整体得分、文本准确率及表格结构恢复上均表现最佳,且表格缺失率显著低于对比方法。

🔸小模型潜力巨大:证明仅0.8B参数的端到端模型,通过高质量数据和精细化训练,足以在结构化文档解析任务上击败参数量更大或架构更复杂的流水线系统。

💡个人观点

论文打破了端到端模型性能不及流水线的刻板印象,成功关键不仅在于模型架构,更在于构建了高保真的合成数据闭环以及"大模型RL引导+小模型蒸馏"的高效训练范式。

相关推荐
ZGIAI7 分钟前
旧模型下线前,客服 Agent 怎么迁移
人工智能·架构
东风破_17 分钟前
程序重启后,AI 为什么把你忘了?从 InMemory 到持久化 Memory
人工智能
ZGIAI23 分钟前
客服知识库更新后,怎么批量验收
人工智能·架构
Asize1 小时前
AI 协作开发新范式:我用 SDD 做了个排版 npm 包
前端·人工智能
IT_陈寒3 小时前
用了Proxy才发现以前的JavaScript白写了
前端·人工智能·后端
甲维斯4 小时前
Claude Opus5手搓“NewAPI Plus”首轮成果!
人工智能
程序猿DD4 小时前
分享两个我每天都在用的 Skill,拖进豆包就能跑,限时领 30 天会员
人工智能
阿里云大数据AI技术4 小时前
Agentic Search 2.0:从单轮对话迈向企业级 AI 搜索自动驾驶Agent
人工智能·elasticsearch·agent
东风破_4 小时前
从 messages 数组到 Memory:大模型到底是怎么“记住”上一轮对话的?
人工智能
AEI4 小时前
四年间大模型的演进历程
人工智能·面试·程序员