
💡 一句话总结:DeepResearch 类产品火了一年,但给它们当训练信号的奖励模型还停留在「单轮问答」时代。百度与天大的 F²DR 把尺子换成了三维过程级评估:检索到的内容全不全、搜索轨迹聪明不聪明、最终答案覆盖够不够。新基准一考,现有开源奖励模型集体不及格------多步决策链是共同的软肋。
导语:训练信号的尺子,跟不上产品的形态
打开任何一个 DeepResearch 产品(深度搜索、深度调研),它的工作方式都是迭代闭环:先规划要查什么,检索一轮,反思哪里不够,再检索,最后综合生成答案。这是多步决策链。
但训练这类系统的强化学习需要奖励模型(RM)来告诉系统「哪条轨迹更好」。尴尬的是,现有 RM 和评测基准几乎都为静态单轮任务设计------它们只会给「最终答案」打分,看不见检索质量、看不见规划好坏、看不见轨迹里的弯路。
用单轮的尺子量多步的活,训练信号自然是糊的。百度和天津大学决定重做这把尺子。
想看原文?
- 📄 论文:arXiv 2609.19827
它的思路是什么?
- 📐 三维过程级评估(F²DR) :
- Content(内容):检索到的资料覆盖率------按「核心信息命中率」分档打分(≥60% 满分,25--60% 半分,<25% 零分)
- Trajectory(轨迹):搜索过程的质量------规划是否合理、反思是否有效、步骤是否有冗余
- Answer(答案):最终生成的覆盖度与准确性
- 🏆 首个专项基准:DeepSearch RM-Bench------带严格过程级标注的高质量偏好对,专考 RM 在全管线场景的判断力
- 🔬 双向验证:F²DR 与人工/真值的一致性、开源 RM 在新基准上的区分度
效果到底怎么样?
- 📊 F²DR 一致性显著领先:相比让模型自评的基线方法,三维框架与真值的评估一致性高出显著幅度
- 🚨 开源 RM 集体吃力:主流开源奖励模型在新基准上表现疲软------多步决策链的评估是普遍短板,不是某家的个别问题
- 🧭 诊断价值:基准清晰区分了「内容检索型失败」与「轨迹决策型失败」------两种病要吃不同的药
为什么你要关心?
- 🏗️ 训 DeepResearch 的地基工程:奖励信号的质量决定 RL 训练的上限------如果你的搜索 agent 训不动,先检查尺子对不对
- 📏 「核心信息命中率分档」可以直接抄:这是个具体到可以直接实现的检索质量度量,比「相关性打分」可操作得多
- 🧪 自评不等于可靠:让强模型自己给自己的输出打分,一致性显著更低------评测体系里要留独立裁判的位置
理性看待
冷静看三点:过程级打分本身依赖强模型当判官,判官偏差需要持续校准;数据集「即将开源」,第三方独立验证还差临门一脚;三维框架的权重如何组合成单一奖励信号,实践者仍需自行调参。但方向毋庸置疑:产品的形态进化到了多步,训练信号的尺子也必须进化到过程。