给 DeepResearch 打分的尺子是错的:百度发布首个全管线 DeepSearch 奖励框架

💡 一句话总结:DeepResearch 类产品火了一年,但给它们当训练信号的奖励模型还停留在「单轮问答」时代。百度与天大的 F²DR 把尺子换成了三维过程级评估:检索到的内容全不全、搜索轨迹聪明不聪明、最终答案覆盖够不够。新基准一考,现有开源奖励模型集体不及格------多步决策链是共同的软肋。

导语:训练信号的尺子,跟不上产品的形态

打开任何一个 DeepResearch 产品(深度搜索、深度调研),它的工作方式都是迭代闭环:先规划要查什么,检索一轮,反思哪里不够,再检索,最后综合生成答案。这是多步决策链。

但训练这类系统的强化学习需要奖励模型(RM)来告诉系统「哪条轨迹更好」。尴尬的是,现有 RM 和评测基准几乎都为静态单轮任务设计------它们只会给「最终答案」打分,看不见检索质量、看不见规划好坏、看不见轨迹里的弯路。

用单轮的尺子量多步的活,训练信号自然是糊的。百度和天津大学决定重做这把尺子。

想看原文?

它的思路是什么?

  • 📐 三维过程级评估(F²DR) :
    • Content(内容):检索到的资料覆盖率------按「核心信息命中率」分档打分(≥60% 满分,25--60% 半分,<25% 零分)
    • Trajectory(轨迹):搜索过程的质量------规划是否合理、反思是否有效、步骤是否有冗余
    • Answer(答案):最终生成的覆盖度与准确性
  • 🏆 首个专项基准:DeepSearch RM-Bench------带严格过程级标注的高质量偏好对,专考 RM 在全管线场景的判断力
  • 🔬 双向验证:F²DR 与人工/真值的一致性、开源 RM 在新基准上的区分度

效果到底怎么样?

  • 📊 F²DR 一致性显著领先:相比让模型自评的基线方法,三维框架与真值的评估一致性高出显著幅度
  • 🚨 开源 RM 集体吃力:主流开源奖励模型在新基准上表现疲软------多步决策链的评估是普遍短板,不是某家的个别问题
  • 🧭 诊断价值:基准清晰区分了「内容检索型失败」与「轨迹决策型失败」------两种病要吃不同的药

为什么你要关心?

  • 🏗️ 训 DeepResearch 的地基工程:奖励信号的质量决定 RL 训练的上限------如果你的搜索 agent 训不动,先检查尺子对不对
  • 📏 「核心信息命中率分档」可以直接抄:这是个具体到可以直接实现的检索质量度量,比「相关性打分」可操作得多
  • 🧪 自评不等于可靠:让强模型自己给自己的输出打分,一致性显著更低------评测体系里要留独立裁判的位置

理性看待

冷静看三点:过程级打分本身依赖强模型当判官,判官偏差需要持续校准;数据集「即将开源」,第三方独立验证还差临门一脚;三维框架的权重如何组合成单一奖励信号,实践者仍需自行调参。但方向毋庸置疑:产品的形态进化到了多步,训练信号的尺子也必须进化到过程。

相关推荐
lucas_AI22 分钟前
50 个大模型 vs 258 个人类心理学实验:AI 的「常识」离人类还有多远?
人工智能
愤怒的代码22 分钟前
上下文窗口:模型的短期记忆
人工智能·llm·agent
郝学胜-神的一滴23 分钟前
AI 编程智能体 27:吃透MCP通信机制
人工智能·python·langchain·wpf·numpy·scikit-learn
李兆龙的博客28 分钟前
从一到无穷大 #108:Meta 的 AI 存储架构——BLOB 重构与跨地域数据加载
人工智能·重构·架构
aneasystone本尊31 分钟前
学习大模型训练的 RLHF:从人类偏好到奖励模型
人工智能
天天被压力32 分钟前
【A股分钟级高频数据完全手册 #09】A股历史分时交易数据接口:普通分时怎么批量下
java·人工智能·python
叼烟扛炮33 分钟前
[LangChain] 学习笔记(05):提示词模板(Prompt)与少样本注入(Few-Shot)实战
linux·人工智能·笔记·学习·langchain·prompt
天天被压力39 分钟前
【A股分钟级高频数据完全手册 #10】股票实时行情数据接口Python:公开源实时交易取数
java·人工智能·python
深蓝AI44 分钟前
Vercel 把浏览器做成命令行:agent-browser 十个月 4.6 万星,给每个元素发一个编号
人工智能·程序员