数据缺失填补算法之CUR-Estimator

在复杂工业装备运行监测与多变量时间序列分析中,传感器偶发故障、工况多变以及采样频率动态调整常常导致序列数据存在非均匀间隔与数据缺失问题。

传统的循环神经网络或自注意力填补模型通常建立在等间隔采样假设之上,并且纯数据驱动的深度学习模型在遭遇长时间连续缺失或噪声干扰时,容易输出超出物理合理范围的异常极大或极小值。

为了解决时变采样间隔对退化状态演变的影响,并约束深度神经网络的解空间,研究人员提出了约束未知恢复估计器(Constrained Unseen Recovery Estimator,简称 CUR-Estimator )。对应的论文为《CUR-Estimator: Towards reliable missing data imputation for aero-engine degradation process》。

该方法通过自注意力机制显式建模时间间隔衰减权重,并引入具有保形特性的统计插值方法对神经网络输出施加软约束,构建了一种适用于通用非等间隔多变量时序的填补框架。

CUR-Estimator 的输入由不完整的多变量时序矩阵、指示有效观测位置的缺失掩码矩阵、绝对时间戳向量以及动态计算的时间间隔矩阵共同构成。

对于通用多变量序列,不同维度在同一时刻可能具有不同的缺失状态,因此时间间隔矩阵按特征维度独立计算。

当某一特征在相邻时刻均存在观测值时,时间间隔为对应时间戳的物理差值;若前序时刻存在连续缺失,时间间隔则在前一时间步的基础上持续累加,直到遇到下一个真实观测点。

这种输入设计使得模型能够感知真实时间流逝的长短,为神经网络提供明确的时域跨度信息,从而避免了传统方法将非等间隔序列误作为均等离散时间步处理所带来的状态转移偏差。

算法的核心时序建模单元为区间感知时序填补网络(Interval-Aware Temporal Imputation Network,ITIN)。

ITIN 建立在门控循环单元(GRU)的基础架构之上,并创新性地融合了自注意力增强的时间衰减机制。

该模块将当前特征维度的真实时间间隔分别映射为查询向量、键向量和值向量,通过缩放点积注意力与非线性变换生成自适应衰减因子。

然后,衰减因子与缺失掩码拼接并映射为融合权重,用于自适应平衡前一隐藏状态传递的历史先验信息与当前线性重构特征的比重。

经过融合与观测值替换后,特征连同缺失掩码作为输入送入 GRU 单元完成隐状态更新,从而在连续时间尺度上刻画变量退化过程中的非线性动态演变。

为了防止深度模型在长时间缺失区域产生非理性的发散输出,CUR-Estimator 引入了分段三次埃尔米特插值多项式(PCHIP)作为统计约束组件。

PCHIP 插值方法在各有效观测点之间构建三次多项式,通过加权调和平均方法计算局部导数,并对单调性发生改变的边界导数进行归零或限幅调整。

这种数学构造保证了插值曲线不仅在观测点处满足一阶导数连续,而且能够严格保持数据的局部单调性与形态,杜绝了常规样条插值常见的过冲与剧烈振荡现象。PCHIP 独立作用于各特征序列并生成统计基准填补矩阵,作为一种鲁棒的边界先验引导神经网络的参数优化方向。

在整体优化流程中,CUR-Estimator采用了双向循环架构与复合损失函数。模型包含正向与反向两个对称的ITIN单元,分别沿时间轴正向处理历史信息和反向聚合未来上下文信息,各自输出一套阶段性重构序列。

模型的总损失函数由四部分协同构成:正向ITIN的单步重构绝对误差、反向ITIN的单步重构绝对误差、双向填补结果之间的时序一致性正则项,以及双向网络平均填补输出与PCHIP统计插值结果之间的均方误差惩罚项。

通过反向传播,统计插值结果以物理合理性先验的形式约束网络权重的更新过程,在保留神经网络拟合复杂相关性能力的同时,将其解限制在合理的分布区间内。

在模型应用与推理阶段,待填补的不完整序列被分别送入训练完成的正向和反向 ITIN 单元中,系统直接提取两者在对应缺失位置处的填补值并进行算术平均,作为最后的填补输出。

作为一种通用的数据恢复范式,CUR-Estimator 不仅适用于航空动力装置等复杂服役系统的性能衰退监测,也能够直接迁移至风电机组发电数据、工业设备传感器阵列以及各类非等间隔采样的物理系统。

其将"数据驱动的注意力时序网络 "与"机理先验的统计保形插值"深度融合的思想,为解决工业复杂时序数据缺失与异常漂移问题提供了一种兼具表达能力与稳定边界的通用解决方案。

来源文献:

CUR-Estimator: Towards reliable missing data imputation for aero-engine degradation processJ. Neurocomputing, 2025, 649: 130876.

https://www.sciencedirect.com/science/article/abs/pii/S0925231225015486

相关推荐
其实防守也摸鱼14 小时前
个人学习 Pwn 思路:从基础到漏洞利用的进阶路径
大数据·前端·人工智能·chrome·算法·安全·网络安全
Nuanyt15 小时前
LeetCode Hot 100 链表专题(五)· 2 题(Java)
java·算法·leetcode·链表
GrowingIO技术社区18 小时前
SaaS与私有化部署怎么比较?责任、集成与成本
大数据·数据挖掘·产品
GrowingIO技术社区18 小时前
CDP项目如何评估?从业务问题到能力测试
大数据·数据分析
w_zero_one18 小时前
递归算法(一)
java·开发语言·算法
衡石科技18 小时前
衡石高性能分析架构:HQL、查询下推与多层加速的协同设计
架构·数据分析
GrowingIO技术社区19 小时前
多端用户身份怎么统一?OneID规则与验收清单
大数据·数据挖掘·数据分析
风影同志7832420 小时前
20 个比特能装下多少行情?——实测拆解 Kronos 的 K 线分词器
算法
写的都是BUG20 小时前
APK 里的钥匙,一直就放在门口:聊聊加固真正该做什么
前端·算法