阿里:端到端文档解析模型OvisOCR2

📖标题:OvisOCR2 Technical Report

🌐来源:arXiv, 2607.13639v1

🛎️文章简介

🔸研究问题:如何在不依赖复杂流水线的情况下,利用紧凑的端到端模型实现超越传统方法的文档解析性能?

🔸主要贡献:论文提出了OvisOCR2,一个0.8B参数的端到端文档解析模型,通过创新的数据引擎和训练策略,在OmniDocBench等基准上取得SOTA成绩。

📝重点思路

🔸构建混合数据引擎:结合真实文档与合成数据。真实数据经专用OCR解析、规则清洗及人工抽检;合成数据基于HTML模板生成,确保图像与Markdown标注严格对齐,覆盖长尾难例。

🔸多阶段训练策略:首先对Qwen3.5-0.8B和4B模型进行监督微调;随后在4B分支上使用GRPO算法进行强化学习,引入文本、公式和表格的多组件奖励;接着通过在线策略蒸馏将4B教师模型的知识迁移至0.8B学生模型;最后进行模型融合。

🔸优化强化学习训练:设计包含文本编辑距离、公式CDM和表格TEDS的综合奖励函数,并采用分层并行和快捷路径优化奖励计算效率,解决长序列生成的训练瓶颈。

🔎分析总结

🔸性能全面领先:在OmniDocBench v1.6上获得96.58的最高分,超越PaddleOCR-VL-1.6等主流流水线方法;在PureDocBench上Avg3得分75.06,同样位居第一。

🔸鲁棒性与泛化能力强:在涵盖手写体和复杂表格的内部基准测试中,OvisOCR2在整体得分、文本准确率及表格结构恢复上均表现最佳,且表格缺失率显著低于对比方法。

🔸小模型潜力巨大:证明仅0.8B参数的端到端模型,通过高质量数据和精细化训练,足以在结构化文档解析任务上击败参数量更大或架构更复杂的流水线系统。

💡个人观点

论文打破了端到端模型性能不及流水线的刻板印象,成功关键不仅在于模型架构,更在于构建了高保真的合成数据闭环以及"大模型RL引导+小模型蒸馏"的高效训练范式。

相关推荐
aixingkong9211 小时前
Atlas 950 1024卡SuperPoD推测分析
网络·人工智能·硬件架构·硬件工程
触底反弹1 小时前
🤯 面试被问 AI Workflow 和 Agent 有啥区别?3 张图 + 2 段代码讲清楚!
人工智能·设计模式·面试
步步精BBJconn1 小时前
从GPU服务器到数据中心:AI服务器高压连接器的应用与发展趋势
大数据·运维·服务器·人工智能·科技·物联网
K姐研究社1 小时前
Codex 怎么用国产模型?Kimi + CC Switch 接入配置指南
人工智能·aigc
GuWenyue8 小时前
写Agent还要重复封装工具?一套MCP多服务方案,3个能力让AI自动查地图、读写文件、操控浏览器
人工智能·机器学习·开源
GuWenyue8 小时前
90%AI新手不会调参!LangChain双模型流水线实战,一套代码兼顾严谨+创意
人工智能
光锥智能10 小时前
WAIC亮点|兼具泛化能力与作业效率的极智嘉机器人天团
人工智能·机器人
阳光是sunny10 小时前
LangGraph中的Reducer是什么
前端·人工智能·后端
甲维斯10 小时前
Kimi K3 重构10000行单文件屎山代码!
人工智能