EmotionThinker把解释质量单独纳入了语音情感识别的训练。基础模型先接受韵律任务适配，用音高、能量、语速与重音等线索支撑判断；进入强化学习后，标签奖励之外又加入了解释评分。这个评分并非始终照单使用：若它偏向了同组中的错误回答，权重会被衰减，训练早期也不立即启用。作者分别测量分类、声学属性识别和解释表现，从中观察到普通GRPO提高标签分数时，解释评价不一定跟着提高。整套工作的落点，是这两类目标如何共同训练。
|--------|-----------|---|
| 01 | ｜论文来源 | |
【论文标题】
EmotionThinker: Prosody-Aware Reinforcement Learning for Explainable Speech Emotion Reasoning
【论文作者】
Dingdong Wang、Shujie Liu、Tianhua Zhang、Youjun Chen、Jinyu Li、Helen Meng。
【论文地址】
【论文源码】
https://github.com/dingdongwang/EmotionThinker
【论文等级】
ICLR 2026主会正式论文。依据《中国计算机学会推荐国际学术会议和期刊目录（2026年）》第七版，ICLR属于人工智能领域CCF-A类会议。会议论文不使用中科院期刊分区表述。
本文以会议正式PDF为依据。配图来自原论文，保留原编号，仅裁切图表区域并调整显示尺寸。分类分数按原表的百分数记录，差值以百分点计；解释评价另用1至5分量表，不与分类准确率混用。
|--------|-----------|---|
| 02 | ｜论文背景 | |
原文选取了一句排队抱怨作为例子：说话者称自己等了一个小时。标准GRPO给出了sad，却在解释里推测她因"令人兴奋或重要的事情"耽搁。这个背景既不在话语里，也不是由声音就能确定的事实。若评测到情感标签即止，这条输出仍然会被算对。论文所讨论的解释监督，便是针对这种已经产生完整文字、但依据难以核查的回答。
另一个问题出现在解释生成之前。声音转写准确，并不保证模型能识别哪个词被重读、语速怎样变化；这几类能力需要单独检查。作者为此加入音高、能量、语速、语调和重音测试，而不是从一段听起来专业的解释反推模型具备声学感知能力。感知训练与解释训练在方法中分开安排，后续评测也分别对应。
图1对照了两种输出形式。传统标签预测到Angry就结束，EmotionThinker则在标签前给出说话者描述、韵律观察、语义线索及它们之间的联系。增加这些内容以后，才有了可供评价者核对的对象。不过，文字可被核查与模型内部决策得到忠实解释，仍是不同层次的主张，本文只讨论论文实际测量的表现。
Figure 1：从单一情感标签扩展为包含声音依据的解释与标签
|--------|-----------|---|
| 03 | ｜方法动机 | |
这篇工作的起点是"先听清，再解释"。如果基础模型对音高、能量和重音的感知本来就不稳定，直接训练它写推理，可能只是增加了描述声音的词汇，并没有补上声学能力。作者因此先设置韵律分类与对比任务，再进入情感推理训练。
训练目标也需要拆开。分类正确性可以与标签比对，解释质量却没有一个同样简单的二值答案。作者另训奖励模型，对事实对齐、解释质量、描述完整性和表达结构打分。但是，奖励模型本身也会误判：一段结论错误的解释，仍可能因为行文完整而得高分。
GRPO-PTR处理的正是这个冲突。它不只把解释分数加进总奖励，还比较同一输入下正确与错误回答获得的解释奖励。当错误回答反而得到更高的解释分数时，降低这一奖励信号的权重；训练早期则暂不引入它，先让分类与输出格式稳定下来。
|--------|-----------|---|
| 04 | ｜论文方法 | |
4.1 EmotionCoT-35K：为解释补充声学描述
EmotionCoT-35K包含约3.5万组语音与推理样本，总计约200小时。正式论文列出的来源为IEMOCAP、MELD、Expresso、MEAD和EARS。作者设置了九种标签，其中还包括Whisper这类发声方式，因此不宜把这套标签直接当成通用情绪本体。
图2把标注链路画成了两个接口。语音端输出可离散描述的属性：短时帧上的音高与能量、由音素对齐和时长估计的语速、WhiStress给出的重读词。音调轮廓经过Savitzky-Golay平滑，再分为升、降或升降组合等类别。年龄段与性别另由基于wav2vec 2.0的模型预测。语言端接收上述属性、转写以及情感标签，由GPT-4o将它们写为解释。这里不应把GPT-4o生成的声学措辞，误读成它重新测量过原始波形。
Figure 2：EmotionCoT-35K的数据采集、属性提取与推理标注流程
附录B.3给出了完整提示：输入字段包含groundtruth_emotion，任务又要求解释为什么对应这个标签，并把结论安排在观察之后。由此可知，EmotionCoT训练目标带有标签条件，而不是收集独立听者在未知答案时的判断过程。表1应按字段覆盖表读取；某格打勾表示提供这一属性或解释标注，不代表对该字段逐条做过人工校验。
Table 1：不同语音描述数据集的属性与推理标注覆盖范围
4.2 韵律感知适配与推理冷启动
训练从Qwen2.5-Omni-7B开始。约500小时的韵律语料由三类任务组成：Stress-17K中的词级重音任务，GigaSpeech加工得到的属性分类任务，以及对同一句话进行声学变换后构造的比较任务。比较任务会把高、低、中等属性的片段拼接成序列，再询问属性顺序。相较于孤立的"音高偏高"分类，这种输入要求模型区分几个片段，而非依赖整句的绝对水平。
实施条件见附录C.2。韵律适配阶段更新音频编码器、适配器与语言模型全部参数，学习率1×10⁻⁵，训练1个epoch。原文还写明加入20%文本数据和20% ASR数据；这两个比例的描述应照录，不宜自行补成未给出的混合采样算法。随后才是5K条EmotionCoT样本的冷启动：冻结声学编码器和适配器，在语言模型层做LoRA，以相同学习率训练2个epoch。后一步的参数冻结条件并不适用于前一步。
EmotionThinker-Base由此得到。进入强化学习时，作者使用其余30K条EmotionCoT样本，每个输入采样8次，训练3000步。学习率降为1×10⁻⁶，KL系数0.04；这些设置对应主结果，后文另列采样数扫描，不能混作完全相同的一次运行。
4.3 三类奖励分别检查什么
GRPO-PTR保留了两项容易核对的奖励。R_f=1要求输出符合think、answer标签结构，否则为0；R_o=1要求从answer中取出的标签等于标注，否则为0。解释中是否误述了音高、是否凭空增加事件背景，都不在这两项规则的检查范围内。
第三项R_t依赖一个单独适配的Qwen2.5-Omni-3B。附录D将20K条EmotionCoT样本作为高质量参考，并在四个维度上预设1至5分的质量组合，让GPT-4o生成相应版本，最终得到101400组提示、解释和评分向量。训练结束后，这个模型读取待评估解释，输出四项JSON分数。每项先除以5，再以非负、和为1的权重求和。R_t由此是评分模型的估计，不是直接从声学测量中算出的真值。
四项评分中，Factual Alignment回答描述是否符合声音与语义，Interpretative Quality回答证据如何连接到情感判断；Caption Completeness关心遗漏，Fluency and Structural Clarity关心语句及结构。因而，一段解释可能后两项很高、第一项却很低。把四项压缩成标量后，这种差别未必能完整保留，作者才进一步用分类结果约束其影响。
Figure 3：GRPO-PTR训练框架，包含规则奖励、解释奖励及其渐进组合
4.4 可信度权重与渐进奖励
令c为正确回答组的平均R_t，w为错误回答组的平均R_t，计算范围限于同一输入采样到的候选。正文公式是τ=1（c≥w），否则τ=exp(c−w)。后一个分支的指数为负，所以0＜τ＜1。这个值施加于组内解释奖励，用来衰减"错误回答反而获得较高解释分"的信号；它既不逐句找出错误，也不将这一项清零。若组内全部答对或全部答错，公式中的某个均值如何定义，正文没有给出补充约定。
将主设置代入，总奖励可写为R=0.3R_f+1.0R_o+0.5τR_t。τ处理组内评分倒置，渐进调度处理的则是训练时间：初期只优化R_o和R_f，待分类表现稳定后再接入R_t。原文以50%准确率为阶段切换的例子，没有提供完整的触发与维持规则，故不能仅凭这个例子还原调度实现。
按上述公式，τ依赖标签正确性，而不是声学属性的逐项真值。这意味着它能压低一组失配的奖励，却不能告诉模型究竟哪句音高描述有误。对其效果的检验仍须回到输出：标签分数是否上升，解释的事实对齐是否改善，以及移除τ后发生什么变化。
|--------|-----------|---|
| 05 | ｜实验结果 | |
先明确各表读数。IEMOCAP、MELD取测试集，RAVDESS、SAVEE按论文设置做零样本评测。分类列使用原文4.2节所称的unweighted accuracy，表头为Acc。解释列中的1至5分来自GPT-4o；人工评价另列一表，由四名评价者评分。以下不把这些分数转换成同一种百分比，也不跨表替换汇总口径。
5.1 主结果：识别与解释分别改善了多少
为什么做： 作者把13种通用语音或全模态模型与3种情感专用模型放进同一主表。这样的参照既包括原始Qwen2.5-Omni，也包括BLSP-Emo，所要比较的不是仅有无任务适配，还包括已有情感模型与新训练方案的差距。分类和解释各自占一组列。
对应图表： Table 2。
实验结果： EmotionThinker在IEMOCAP、MELD、RAVDESS、SAVEE上依次为77.68、59.71、71.56、73.96。BLSP-Emo对应为76.00、57.30、72.00、63.73，因此并非四项全胜：RAVDESS低0.44个百分点，SAVEE则高10.23个百分点。原表综合列为68.89与65.41，相差3.48个百分点。该综合数值不是四列的简单算术平均，原文未在此明确展开汇总公式，本文按原列名引用，不自行重算替换。
实验结论： 在表内比较中，模型取得最高综合分类分数；收益在不同语料上并不均匀。自动解释评价的四项分数为3.54、4.01、3.96、4.42，平均3.98，高于所列基线。这是既定GPT评分规则下的结果，不表示每一条声学描述都已经人工核验。
Table 2：分类准确率与自动解释评分，保留原表综合列及数据集拼写
5.2 人工评价：自动评分的排序是否得到支持
为什么做： GPT-4o参与了推理数据合成，也用于解释评价，仅依赖自动分数容易受评分风格影响。作者因此安排独立评价者检查输出。
对应图表： Table 3。
实验结果： 正文说明从5个模型各取20条输出，共100条，匿名后交由4名评价者评分。EmotionThinker在事实对齐、解释质量、描述完整性、流畅性与结构上分别为3.7、4.5、4.7、4.5，表中平均4.4；Qwen2.5-Omni对应平均3.5。最后一项两者同为4.5，差距主要不在文字是否流畅。
实验结论： 人工结果支持模型在这批样本中提供了更完整、与声音更一致的说明。表3标题称consistent 100-sample set，正文却按"每模型20条输出"描述，不能据此补写为100条相同音频上、每个模型都做了配对比较。原文也未在该表报告评价者一致性或置信区间。
Table 3：四名评价者对五种模型输出的人工评分
5.3 韵律感知：增强训练是否补上了声学能力
为什么做： 分类分数上升可能有多种来源。直接询问音高、语速等属性，可以检查第一阶段训练是否改善了它声称要解决的感知问题。
对应图表： Table 5。
实验结果： 作者从韵律语料抽取1000条未见话语组成测试集。原始骨干的音高、语速、能量、语调、重音准确率为25.71、29.94、27.67、25.83、30.24；EmotionThinker-Base为75.11、68.70、69.42、60.25、71.50。五项均有提高，音高提升49.40个百分点，语调提升34.42个百分点。
实验结论： 这组结果直接支持韵律适配改善了属性识别。它评估的是特定属性任务，不是情感分类本身；还不能仅由两类分数都上升，就确定最终情感收益全部来自某一种韵律线索。
Table 5：两种模型在五项韵律属性识别任务上的准确率
5.4 训练与组成消融：收益分别来自哪里
为什么做： 作者先在相同EmotionCoT训练数据上比较SFT与强化学习，再依次替换奖励模型、移除可信度权重、取消渐进调度，区分训练策略与奖励设计的贡献。
对应图表： Table 4。SER为综合识别准确率，ER为解释评分，二者量纲不同。
实验结果： 以EmotionThinker-Base的52.63和3.41为起点，继续SFT后得到53.91和3.78；标准GRPO为62.91和3.45。也就是说，标准GRPO比SFT的分类分数高9.00个百分点，解释分数却低0.33分。完整GRPO-PTR达到68.89和3.98，才在这两列同时更高。
V3换掉的是解释评分器：不做101400组评分数据上的适配，直接使用Qwen2.5-Omni-3B给奖励。表内记录66.67、3.36，相对完整方案分别低2.22个百分点、0.62分。注意这个控制并没有移除解释奖励，也不是使用随机参数网络，所以它检验的是评分任务适配，而非有无语言模型。
V4保留奖励模型，但去掉τ，得到67.71、3.74，差值为−1.18个百分点、−0.24分。V5同时启用各项奖励、不等待前期分类稳定，结果为62.80、3.76，差值为−6.09个百分点、−0.22分。两种干预针对不同环节，不能将V5的较大退化直接解释为τ没有作用。V5行名还需核对：表中写w-progressive，4.3节却明确说取消progressive scheduling；以下按正文解释干预，图片仍留原行名。
实验结论： 表4不能归纳成"强化学习全面优于SFT"：V2的解释分数低于V1，尽管分类明显更高。V6才同时优于二者，三个组成消融也都低于V6。就本表而言，延后引入解释奖励对应的分类差值最大；由于没有重复运行的波动记录，无法从这些单点分数给组件的重要性作稳定排序。
Table 4：SFT、标准GRPO与GRPO-PTR组成消融，V5行名按原表保留
5.5 案例对照：标签正确是否意味着解释合理
为什么做： 将输入固定以后，三个模型对同一事件的描述可以直接并排检查。作者选择一条sad语音，展示汇总解释评分所对应的输出差别，而不是再把每个模型换到各自擅长的例子。
对应图表： Figure 4；附录Table 8为同一话语的扩展模型对照，不另算一组独立测试。
实验结果： 图4最短的一段来自原始Qwen2.5-Omni-7B，它把这条语音判为angry。标准GRPO末尾虽是sad，正文却转向玩笑、讽刺，甚至增加耽搁的原因。完整方案则引用排队一小时的内容，讨论hour的重音、偏低的音高和能量，以及正常语速。在这个例子里，区别不是只有答案长度，而是说明有没有回到输入中能检查的线索。
实验结论： 两个输出都含sad，并不等于它们对这段声音作了相同解释。Figure 4提供了这样一个反例；整体频率仍需统计，不能由图中的红绿标记估算。图内年龄、性别也只是模型的描述，论文未在这里展示独立核实的身份资料。
Figure 4：同一sad语音的解释对照，展示标签正确但解释不一致的情况
5.6 候选采样数：更多回答是否带来稳定收益
为什么做： GRPO按同一输入的一组回答构造相对优势，采样数K会影响训练开销和组内比较。作者在其他设置固定的条件下比较K=4、6、8、10、16。
对应图表： Table 6。
实验结果： 五个设置的综合列依次为67.06、67.07、67.35、67.28、67.66。K=16在这列最高，但只比K=4高0.60个百分点；K从8增至10反而下降0.07个百分点。作者最终采用8，作为成本与效果的折中。
实验结论： 这一范围内，增加候选数没有呈现严格单调的收益，表格也未直接列出耗时或显存。还需注意，表6的K=8分数为67.35，与主表68.89不一致；正文在此误指表7。本文只做表6内部比较，不把两张表的数据拼成同一条训练曲线。
Table 6：不同候选采样数K的识别结果，与主表数值分开读取
5.7 解释奖励权重：更重视解释是否总是更好
为什么做： 解释奖励是代理评分，提高权重可能强化有用的声音依据，也可能放大评分偏差。作者固定结果奖励权重1.0、格式奖励权重0.3，只改变解释奖励权重。
对应图表： Table 7。
实验结果： 解释权重取0.3、0.5、1.0时，综合分类分数为68.87、68.89、65.52。0.5只比0.3高0.02个百分点；增至1.0后下降3.37个百分点。SAVEE对应从73.96降至66.92，下降7.04个百分点，比其他三个语料更明显。
实验结论： 结果支持在测试范围内使用适中的解释权重，而不支持"解释奖励越大越好"。0.3与0.5的微小差别不足以说明稳定优势；此外，该表只列分类分数，不能补写为0.5同时获得最高解释质量。
Table 7：固定结果与格式奖励权重，改变解释奖励权重后的分类表现
|--------|---------|---|
| 06 | ｜结论 | |
EmotionThinker围绕可解释语音情感识别，构建了从数据标注、韵律感知适配到强化学习后训练的流程。EmotionCoT-35K为模型提供声学属性与解释监督；EmotionThinker-Base先学习重音及韵律变化，再通过冷启动进入情感推理任务。GRPO-PTR把格式、标签和解释质量纳入训练，并以组内可信度权重和渐进调度处理解释奖励的噪声。
实验分别检查了综合识别表现、自动与人工解释评分、韵律属性识别、训练策略及组成消融，并比较候选采样数和奖励权重。完整方案取得所列模型中最高的综合分类分数与自动解释平均分，人工评价也给出了较高评分。论文由此将"预测哪种情感"与"如何依据声音说明判断"放在同一训练框架中，同时保留两类目标各自的评价。