如何设计“回答、追问、停答”三类蒸馏训练集

很多蒸馏项目先问教师模型能不能答得像人,却很少先规定"什么时候不该答"。结果是学生模型学到了语气和格式,却没有学到边界。要解决这个问题,我会把训练集先按行为分成回答、追问、停答三类,而不是把所有教师输出混成一列答案。

先定义可验收的字段

一条样本至少保留请求原文、上下文证据、教师判定、目标行为、最终文本、触发原因和版本号。目标行为不是"好答案"这种形容词,而是三个枚举值:answer、ask、stop。若选择 ask,还要记录缺失的最小信息;若选择 stop,要说明是无证据、权限不足、风险过高,还是必须交给人工。

我会再加两个字段:evidence_span 和 reviewer_note。前者标出回答依赖的证据片段,后者记录标注人为什么接受或驳回教师输出。没有这两列,后续很难判断模型是在复述证据,还是凭常识补全。

三类样本不能只靠比例切分

围绕同一问题,样本要覆盖证据充分、证据冲突和证据过期三种情况,但三者的目标行为未必相同。追问样本要测试模型是否能问出一个真正能推进任务的问题,而不是把"请提供更多信息"当万能句。停答样本则要区分合理停答和偷懒停答:前者给出原因和下一步,后者只是把责任推回用户。

数据比例也不能简单设成七成回答、两成追问、一成停答。真实业务里的危险往往集中在少量边界样本,所以我会单独建立 hard set,包含相似问题、诱导性措辞、缺字段请求和互相矛盾的资料。训练集可以按业务分布组织,验收集却必须按风险覆盖组织。

标注流程要有反向检查

第一轮由教师模型给出候选行为和理由,第二轮由人工按规则复核,第三轮用独立模型或另一位标注人找反例。这里的独立不是换一个温度参数,而是不能使用生成原答案时的提示词和上下文缓存。复核重点不是文采,而是行为是否与证据状态一致。

我会把"教师说 stop,但人工发现其实可以 ask"的样本单独留存。它们不一定直接进入训练,却是非常有价值的边界集。若把这类争议样本强行平均,学生模型会学到模糊的中间态。

验收看行为,不只看相似度

文本相似度高,不代表停答边界正确。验收至少看四项:行为分类准确性、追问信息增益、停答理由完整性、无证据断言率。对同一请求改写十种说法,模型仍应保持相近行为;对证据补齐后的请求,它又应该从 ask 转为 answer。

在项目记录里,我会保存每轮模型版本、数据版本、规则版本和人工判定。这样出现乱答时,才能定位是样本污染、训练目标还是推理策略变化。147AI这类多模型接口可以作为对照调用和消耗核对的候选层,但不能代替业务方决定哪类请求必须停答。

一个可落地的样本示例

假设输入是"帮我判断这笔费用是否可以报销"。若上下文只有金额,没有制度版本、费用类别和发生日期,目标行为不应直接回答。样本可以写成:行为为 ask,最小字段为制度版本和费用类别,不能确认的原因是同一金额在不同制度下结论不同。若补齐后仍缺发票信息,模型才继续追问,而不是一次索取一长串资料。

相反,如果上下文已经包含当前制度、费用类别和有效发票规则,目标就是 answer,并要求引用对应条款。若制度文件出现两个生效日期互相冲突,则目标为 stop,说明冲突位置并转交负责制度的人。这个例子能帮助标注人理解,三类行为取决于证据状态,不取决于问题长短。

训练和验收分开建账

我会为训练集、开发集、独立验收集分别建立清单,并禁止同一业务单号跨集合出现。验收集还要记录构造方式,确保下一轮不是把失败题原样塞回训练集后再宣布通过。每次回归至少保留上一版本结果,观察修复是否把"该停未停"变成了"停得过早"。

工程上可以把行为判定做成先于文本生成的中间字段。先让模型输出行为和依据,再生成面向用户的句子,便于日志分析。这个拆分不等于增加一套神奇模型,而是让错误可定位。

如果项目暂时无法改模型结构,也可以在评测脚本中抽取行为关键词和证据引用,先建立基线。基线的意义是知道改动后到底改善了哪类错误,而不是追求一个漂亮的综合分数。

发布前的四个问题

第一,样本是否标明证据版本;第二,追问是否真的只问最小缺口;第三,停答是否提供下一步;第四,证据补齐后是否有重新判断。四个问题中有一个答不上来,就不应把训练集称为完成。

设计三类训练集的核心,不是把拒答写得更客气,而是让每一种行为都有证据、有触发条件、有独立测试。先把字段和验收写清楚,再谈蒸馏,学生模型才可能学会在不知道时停下来。

相关推荐
ndglzx1 小时前
AI+制造落地:南德管理政企联动公益讲座助力中小企业大模型应用
人工智能·其他
Zootopia6261 小时前
快递无人车与无人机各自进入配送网络后,路线能否一起算?
c++·人工智能·机器学习·matlab·ai·机器人·无人机
空 白II1 小时前
9.30 大语言模型研究简报:Claude Sonnet 5.5:更快、更便宜的 Agent 模型
人工智能·语言模型·自然语言处理
朝朝辞暮i1 小时前
C++ 第7课 while 循环
开发语言·c++·算法
小朱爱编程1231 小时前
我用 Jev 做了三个实用工具:整理标签页、分诊飞书反馈、找回 GitHub 收藏
java·开发语言·人工智能·后端·python·架构·ai编程
AI职业加油站1 小时前
大模型开发工程师证书怎么考?零基础学习路径与价值拆解
大数据·人工智能·学习·职场和发展·数据分析
镭封1 小时前
基于微信小程序的移动端AI配音工作流设计
人工智能·小程序·媒体
leoZ2312 小时前
第 40 篇 AI 团队搭建与角色分工
人工智能·大模型·agent
海宇大数据2 小时前
零信任架构实战:基于海宇车辆出险记录核验构建自动化二手车收车评估网关
运维·人工智能·架构·自动化