阿里:端到端文档解析模型OvisOCR2

📖标题:OvisOCR2 Technical Report

🌐来源:arXiv, 2607.13639v1

🛎️文章简介

🔸研究问题:如何在不依赖复杂流水线的情况下,利用紧凑的端到端模型实现超越传统方法的文档解析性能?

🔸主要贡献:论文提出了OvisOCR2,一个0.8B参数的端到端文档解析模型,通过创新的数据引擎和训练策略,在OmniDocBench等基准上取得SOTA成绩。

📝重点思路

🔸构建混合数据引擎:结合真实文档与合成数据。真实数据经专用OCR解析、规则清洗及人工抽检;合成数据基于HTML模板生成,确保图像与Markdown标注严格对齐,覆盖长尾难例。

🔸多阶段训练策略:首先对Qwen3.5-0.8B和4B模型进行监督微调;随后在4B分支上使用GRPO算法进行强化学习,引入文本、公式和表格的多组件奖励;接着通过在线策略蒸馏将4B教师模型的知识迁移至0.8B学生模型;最后进行模型融合。

🔸优化强化学习训练:设计包含文本编辑距离、公式CDM和表格TEDS的综合奖励函数,并采用分层并行和快捷路径优化奖励计算效率,解决长序列生成的训练瓶颈。

🔎分析总结

🔸性能全面领先:在OmniDocBench v1.6上获得96.58的最高分,超越PaddleOCR-VL-1.6等主流流水线方法;在PureDocBench上Avg3得分75.06,同样位居第一。

🔸鲁棒性与泛化能力强:在涵盖手写体和复杂表格的内部基准测试中,OvisOCR2在整体得分、文本准确率及表格结构恢复上均表现最佳,且表格缺失率显著低于对比方法。

🔸小模型潜力巨大:证明仅0.8B参数的端到端模型,通过高质量数据和精细化训练,足以在结构化文档解析任务上击败参数量更大或架构更复杂的流水线系统。

💡个人观点

论文打破了端到端模型性能不及流水线的刻板印象,成功关键不仅在于模型架构,更在于构建了高保真的合成数据闭环以及"大模型RL引导+小模型蒸馏"的高效训练范式。

相关推荐
碳基猿1 小时前
新媒体运营的终局:从“内容创作”走向“运营系统竞争”
人工智能·新媒体运营·产品运营·新媒体矩阵·多账号管理·矩阵分发·矩阵运营方法论
阿里云大数据AI技术1 小时前
阿里云 EMR Daft AI Function:用 DataFrame 表达式搞定大模型调用与多模态向量化
人工智能·spark
jerryinwuhan1 小时前
鱼苗投放检测系统设计
人工智能
阿里云大数据AI技术1 小时前
官宣|Apache Fluss 毕业成为顶级项目,湖流一体开启 Agentic Lake 全面实时化时代
人工智能·flink
敲代码的玉米C1 小时前
测试一直在写你的真实数据根
前端·人工智能·架构
Mr.huang1 小时前
自注意力机制(Self‑Attention)
人工智能·深度学习
品牌测评2 小时前
大模型推理算力平台推荐分享|六家平台计费与架构拆解
大数据·人工智能·架构
武汉万象奥科2 小时前
8路AHD摄像头同时输出演示,万象奥科RK3576 AHD硬件方案
人工智能·计算机视觉
LedgerNinja2 小时前
WEEX 真实情况如何?交易平台如何判断是否可靠
大数据·人工智能·区块链
重庆传粉科技2 小时前
GEO深度解读:AI时代品牌营销的核心,从内容优化转向事实治理
人工智能