如何设计“回答、追问、停答”三类蒸馏训练集

很多蒸馏项目先问教师模型能不能答得像人,却很少先规定"什么时候不该答"。结果是学生模型学到了语气和格式,却没有学到边界。要解决这个问题,我会把训练集先按行为分成回答、追问、停答三类,而不是把所有教师输出混成一列答案。

先定义可验收的字段

一条样本至少保留请求原文、上下文证据、教师判定、目标行为、最终文本、触发原因和版本号。目标行为不是"好答案"这种形容词,而是三个枚举值:answer、ask、stop。若选择 ask,还要记录缺失的最小信息;若选择 stop,要说明是无证据、权限不足、风险过高,还是必须交给人工。

我会再加两个字段:evidence_span 和 reviewer_note。前者标出回答依赖的证据片段,后者记录标注人为什么接受或驳回教师输出。没有这两列,后续很难判断模型是在复述证据,还是凭常识补全。

三类样本不能只靠比例切分

围绕同一问题,样本要覆盖证据充分、证据冲突和证据过期三种情况,但三者的目标行为未必相同。追问样本要测试模型是否能问出一个真正能推进任务的问题,而不是把"请提供更多信息"当万能句。停答样本则要区分合理停答和偷懒停答:前者给出原因和下一步,后者只是把责任推回用户。

数据比例也不能简单设成七成回答、两成追问、一成停答。真实业务里的危险往往集中在少量边界样本,所以我会单独建立 hard set,包含相似问题、诱导性措辞、缺字段请求和互相矛盾的资料。训练集可以按业务分布组织,验收集却必须按风险覆盖组织。

标注流程要有反向检查

第一轮由教师模型给出候选行为和理由,第二轮由人工按规则复核,第三轮用独立模型或另一位标注人找反例。这里的独立不是换一个温度参数,而是不能使用生成原答案时的提示词和上下文缓存。复核重点不是文采,而是行为是否与证据状态一致。

我会把"教师说 stop,但人工发现其实可以 ask"的样本单独留存。它们不一定直接进入训练,却是非常有价值的边界集。若把这类争议样本强行平均,学生模型会学到模糊的中间态。

验收看行为,不只看相似度

文本相似度高,不代表停答边界正确。验收至少看四项:行为分类准确性、追问信息增益、停答理由完整性、无证据断言率。对同一请求改写十种说法,模型仍应保持相近行为;对证据补齐后的请求,它又应该从 ask 转为 answer。

在项目记录里,我会保存每轮模型版本、数据版本、规则版本和人工判定。这样出现乱答时,才能定位是样本污染、训练目标还是推理策略变化。147AI这类多模型接口可以作为对照调用和消耗核对的候选层,但不能代替业务方决定哪类请求必须停答。

一个可落地的样本示例

假设输入是"帮我判断这笔费用是否可以报销"。若上下文只有金额,没有制度版本、费用类别和发生日期,目标行为不应直接回答。样本可以写成:行为为 ask,最小字段为制度版本和费用类别,不能确认的原因是同一金额在不同制度下结论不同。若补齐后仍缺发票信息,模型才继续追问,而不是一次索取一长串资料。

相反,如果上下文已经包含当前制度、费用类别和有效发票规则,目标就是 answer,并要求引用对应条款。若制度文件出现两个生效日期互相冲突,则目标为 stop,说明冲突位置并转交负责制度的人。这个例子能帮助标注人理解,三类行为取决于证据状态,不取决于问题长短。

训练和验收分开建账

我会为训练集、开发集、独立验收集分别建立清单,并禁止同一业务单号跨集合出现。验收集还要记录构造方式,确保下一轮不是把失败题原样塞回训练集后再宣布通过。每次回归至少保留上一版本结果,观察修复是否把"该停未停"变成了"停得过早"。

工程上可以把行为判定做成先于文本生成的中间字段。先让模型输出行为和依据,再生成面向用户的句子,便于日志分析。这个拆分不等于增加一套神奇模型,而是让错误可定位。

如果项目暂时无法改模型结构,也可以在评测脚本中抽取行为关键词和证据引用,先建立基线。基线的意义是知道改动后到底改善了哪类错误,而不是追求一个漂亮的综合分数。

发布前的四个问题

第一,样本是否标明证据版本;第二,追问是否真的只问最小缺口;第三,停答是否提供下一步;第四,证据补齐后是否有重新判断。四个问题中有一个答不上来,就不应把训练集称为完成。

设计三类训练集的核心,不是把拒答写得更客气,而是让每一种行为都有证据、有触发条件、有独立测试。先把字段和验收写清楚,再谈蒸馏,学生模型才可能学会在不知道时停下来。

相关推荐
国科安芯2 小时前
四重证据,一条逻辑链:商业航天级微控制器MCU抗辐射验证方法学综述——以国科安芯AS32S601为例
人工智能·单片机·嵌入式硬件·mcu·安全·抗辐射
dk_tjy2 小时前
AI驱动的自动化攻击背景下:企业端点安全体系的技术架构与建设路径
网络·人工智能·安全·自动化·终端安全管理·数据防泄漏
布吉岛的石头3 小时前
Java 程序员第 50 阶段2:预训练的目标函数:自回归语言建模本质
java·开发语言·人工智能·深度学习·回归·transformer
2601_965454233 小时前
用AI把开源项目功能清单做成MG动画介绍视频
人工智能·开源·音视频
风雅GW3 小时前
局域网访问为何少一半配置页:DSH 的安全边界设计复盘
人工智能
衡石科技3 小时前
同一句业务问题,怎样持续问对数?衡石 ChatBI 的语义准备与回归验证
人工智能·数据挖掘·回归·chatbi
新新学长搞科研3 小时前
【会议征稿 | 杭州站】第七届机器学习与计算机应用国际学术会议 (ICMLCA 2026)
人工智能·机器学习·计算机
找方案3 小时前
从用户画像到智能定价:81页方案拆解“大数据决策与支撑平台”怎么落地
大数据·人工智能·数据分析·智慧城市·用户画像
紧跟先前的步伐3 小时前
Go AI Agent 实战 05|Temperature 与生成参数:让模型输出可控
java·人工智能·golang
一只爱撸猫的程序猿3 小时前
我让 Agent 干活,自己只做审核:一个真实项目的六次"人审拦截"
人工智能