【VLM】Format Decoupled Reinforcement Learning for Document OCR

note

一、文档智能

【文档智能进展】讲的故事是格式化文本(公式、表格等)比纯文本熵值高一个数量级,导致模型输出不确定性大、解析准确率低,所以搞了个应对思路。工作在:Reading or Reasoning? Format Decoupled Reinforcement Learning for Document OCR,https://arxiv.org/pdf/2601.08834,

看核心思路:

1)数据层面:构建包含566k样本的多源格式丰富语料,覆盖9类文档,补充格式密集型数据;

2)训练层面:基于Qwen3-VL-4B,采用SFT-then-RL两阶段范式,SFT奠定OCR基础,RL聚焦格式优化;

3)策略层面:通过熵基数据过滤筛选50%高熵样本,集中优化复杂格式【用SFT模型推理计算样本平均token熵,筛选熵值≥阈值的样本(最优过滤率50%),比无过滤高,过低或过高过滤均会降低性能】;

4)奖励层面:设计格式解耦奖励,为纯文本、公式、表格分别提供字符串匹配、表达式正确性、结构一致性奖励【纯文本,字符串匹配奖励,使用归一化编辑距离;公式,表达式正确性奖励,使用BLEU分数;表格,结构一致性奖励,使用TEDS分数,结论是完整奖励方案(FP+SM+EC+SC)比单一字符串匹配奖励高,其中结构一致性奖励(针对表格)和表达式正确性奖励(针对公式)对格式优化至关重要】,采用GRPO算法。

Reference

1 Reading or Reasoning? Format Decoupled Reinforcement Learning for Document OCR

相关推荐
泯泷1 小时前
RL 训练真正难的不是算法:环境、奖励与样本效率
llm·agent
Baihai_IDP19 小时前
RAG vs SKILL vs MCP vs RLM
llm·agent·mcp
Baihai_IDP21 小时前
别再争论 AI 该不该像人了,赋予 AI 人格是非常有效的后训练策略
人工智能·llm·aigc
Tokenfree21 小时前
一次死循环烧掉 340 块:LLM 网关的限流与熔断该怎么做
llm·api
dozenyaoyida1 天前
AI与大模型新闻日报 | 2026-11-12
人工智能·ai·大模型·新闻
泯泷2 天前
单个 AI 再强,为什么也干不过一支 AI 团队?
人工智能·llm·agent
ndz2 天前
Claude Fable 5.2 今日上线 ModelFold:百万上下文,挑战复杂难题!
llm·aigc·claude
东姬AI2 天前
文心5.5 Flash今日发布:内容管线连配音都自动化了,最后卡住的为什么是「会表演」?
百度·大模型·数字人·ai视频·moe·文心5.5·联合生成
dozenyaoyida2 天前
AI与大模型新闻日报 | 2026-11-11
人工智能·chatgpt·大模型·新闻
泯泷2 天前
同样是多 Agent,为什么有的稳,有的却天天翻车?
人工智能·llm·agent