微表情识别常先定位变化最明显的顶点帧,再计算它与起始帧之间的运动。Ra-ICL重新考察了这一输入方式:其他帧的运动虽弱,是否也能提供有效监督?论文将一段序列展开为多个运动实例,在不使用顶点帧标注的条件下学习表情特征。
|-------|----------|---|
| 1 | 论文来源 | |
【论文标题】
Region-Aware Instance Consistency Learning for Micro-Expression Recognition
【论文作者】
Yaomin Cai、C. L. Philip Chen、Shiting Xu、Haiqi Liu、Tong Zhang。
【论文地址】
【论文源码】
截至2026年10月22日,暂未核实到作者公开的代码仓库。
【论文等级】
CVPR 2026主会论文,CCF-A,2026年6月发表,34428-34438页。
|-------|----------|---|
| 2 | 论文背景 | |
微表情持续时间短、运动幅度小,常用的起始帧与顶点帧配对,能够突出较强的运动信号,但要求逐帧定位顶点。在样本本就有限的情况下,一段视频只形成一个运动输入,也限制了数据利用。Ra-ICL讨论的是已分割微表情片段的识别,不是从长视频中自动发现微表情;取消顶点帧标注也不等于取消片段边界和情绪标签。
|-------|----------|---|
| 3 | 方法动机 | |
作者观察到,同一序列各帧相对起始帧的运动强度会变化,激活区域却具有一定空间一致性。因此,较弱运动不必直接舍弃,多个实例之间的共同区域可以成为学习约束。困难在于,分类网络容易只关注最显著的局部,仍可能遗漏强度较低的区域。Ra-ICL据此将多实例表示、区域一致性和局部区域发现联合起来。
|-------|----------|---|
| 4 | 论文方法 | |
4.1 MIR:从单一帧对到运动实例集合
从序列中段取连续帧,分别与起始帧计算TV-L1光流,再加入光流应变,组成三通道输入。默认采样16帧,不足16帧时使用全部帧。每段视频形成一个实例集合,训练时从同一集合随机选取不同实例配对,而非始终使用起始帧与顶点帧。

Figure 2:Ra-ICL整体框架及IRC、MRD模块
4.2 IRC:约束不同实例的关注区域
在线分支与目标分支采用同构ResNet18,目标参数通过指数移动平均更新。对目标实例水平翻转后,以CAM提取类别相关热图,再翻转回去与在线热图对齐。分类损失提供情绪监督,注意力一致性损失约束同一序列不同实例的激活位置。
4.3 MRD:补充容易遗漏的局部线索
MRD用可学习的面部查询和Transformer解码器生成局部区域热图,同时约束两分支的像素归属与区域表征一致性。默认使用8个查询,分类、IRC和MRD三组损失权重均为0.5。推理只保留在线网络,输入实例集合中的中间实例,不对整组实例逐个投票。
|-------|----------|---|
| 5 | 实验结果 | |
主文与补充材料共同报告以下实验。指标为UF1与UAR,数值均以百分数表示;文中差值是百分点,不代表统计显著性。
5.1 复合数据集上的方法比较
为什么做: 检查不依赖顶点标注时,识别表现是否仍有竞争力。
对应图表: Table 1。
实验结果: CDE将CASME II、SAMM和SMIC-HS统一为三类,使用442条样本、68名被试,做68轮留一被试验证。Ra-ICL的UF1/UAR为88.05/89.11,分别比HTNet的86.03和MFDAN的86.88高2.02、2.23个百分点。
实验结论: 两项总体指标均改善,但各自的最强比较对象不同;该设置不是留一数据库测试。

Table 1:CDE设置下的总体与各来源子集结果
5.2 CAS(ME)³上的不同类别设置
为什么做: 检查类别划分更细时,方法是否仍然有效。
对应图表: Table 2。
实验结果: 三类设置使用670条样本、87名被试;四类、七类使用801条样本、93名被试,均做留一被试验证。三类UF1/UAR为75.85/74.54,Lite-Point-GCN为68.19/74.12;四类为61.03/58.48,七类为44.32/43.17。
实验结论: 三种设置均优于表中方法,但三类的UF1提升7.66个百分点,UAR只提升0.42个百分点,不能混称为同等幅度改善。

Table 2:CAS(ME)³三类、四类与七类识别结果
5.3 多实例与两个区域模块的贡献
为什么做: 分开检验数据表示变化与区域学习模块的作用。
对应图表: Table 3,M1-M6。
实验结果: 单顶点帧对基线M1的UF1为83.22;改用MIR后为84.91。MIR加入IRC为85.81,加入MRD为86.18,三个部分联合为88.05。
实验结论: 多实例输入本身带来收益,两个区域模块组合后进一步提高分数,效果不只来自增加输入帧对。

Table 3节选:保留表头及M1-M6的模块消融结果
5.4 采样方式与顶点帧依赖
为什么做: 排除"中段窗口碰巧覆盖顶点帧"这一解释。
对应图表: Table 3,M6-M12。
实验结果: 中段、顶点居中、全帧采样的UF1/UAR依次为88.05/89.11、87.73/88.73、88.26/88.21。随机与均匀采样的UF1为87.89、86.64。显式排除顶点帧后,激活阶段和消退阶段采样仍有86.62、87.61的UF1。
实验结论: 非顶点帧含有可用信息。全帧采样的UF1略高,但UAR较低,不能把中段方案写成所有指标最优。

Table 3节选:保留表头及M6-M12的采样比较结果
5.5 实例数量的影响
为什么做: 检查增加运动实例是否总能获益。
对应图表: Figure 8,补充材料。
实验结果: 比较4、8、12、16、20、32个实例,复合组在16附近表现较好,继续扩大窗口后回落;各来源子集曲线并不一致。
实验结论: 增加实例同时改变运动多样性和噪声范围,16是本文设置中的取舍,不是普适常数。

Figure 8:不同实例数量下的UF1与UAR
5.6 面部查询数量的影响
为什么做: 检查MRD的区域数量是否需要限制。
对应图表: Figure 9,补充材料。
实验结果: 作者选用8个查询。复合组在这一配置附近较好,增加到更多查询并未持续改善,CASME II子集则呈现不同趋势。
实验结论: 查询更多不等于有效区域更多,具体配置仍需结合数据验证。

Figure 9:面部查询数量与识别表现的关系
5.7 三组损失的权重分析
为什么做: 检查分类监督与两类区域约束之间的平衡。
对应图表: Figure 10、Figure 11、Figure 12,补充材料。
实验结果: 三个权重分别在0.1至2之间变化,复合组在0.5附近表现较好;提高分类权重、IRC权重或MRD权重,都没有带来单调增益。
实验结论: 这些约束需要共同调整,不能认为更强的一致性或区域监督必然更有效。

Figure 10-12:从上到下为分类、IRC和MRD损失权重分析,原图拼接
5.8 逐类错误分布
为什么做: 检查总体分数是否掩盖少数类别的识别困难。
对应图表: Figure 6、Figure 13。
实验结果: CDE复合组中,Positive有12%被分为Negative;在CAS(ME)³三类设置中,这一比例为35%,Positive召回率为49%。
实验结论: 总体改善后仍存在逐类差距。作者将其与类别不平衡联系起来,但未通过重平衡对照单独验证这一解释。

Figure 6:CDE及其来源子集的混淆矩阵

Figure 13:CAS(ME)³不同类别设置下的混淆矩阵
5.9 注意力是否覆盖微弱区域
为什么做: 观察IRC和MRD分别改变了哪些关注区域。
对应图表: Figure 7、Figure 14。
实验结果: Figure 7中,IRC使不同实例的注意力集中到共同区域B,MRD进一步覆盖A、C。Figure 14中,联合模型补充关注D,同时避开作者标为眼动噪声的A、B。
实验结论: 两组案例与模块设计相符;热图是可视化证据,不能代替跨样本的定位准确率评测。

Figure 7:IRC、MRD及Guided Grad-CAM的可视化比较

Figure 14:补充案例中的局部区域发现与眼动噪声
|-------|--------|---|
| 6 | 结论 | |
Ra-ICL以多组起始帧与中段帧配对替代单一顶点帧对,通过IRC约束实例间的共同激活区域,再由MRD补充微弱局部信息。四个公开微表情数据集上的方法比较、模块消融和采样实验表明,这种表示可以在不依赖顶点帧标注的条件下完成情绪识别。补充实验考察了实例数量、查询数量及损失权重,混淆矩阵与注意力案例则展示了类别差距和区域学习表现。