在多变量时间序列预测领域，如何高效捕捉时间分布变化和通道间复杂关系是两大核心挑战。传统方法往往难以同时处理时间模式的异质性和通道间的噪声影响。近期，基于时频结合的方法在这一领域取得了显著进展。本文总结了两篇创新性论文，分别从时间-通道双重聚类和多尺度频域掩蔽的角度出发，提出了DUET和MMFNet两种模型，为多变量时间序列预测提供了新的解决方案。为帮助想发论文的同学，我挑选了5篇最新的多时间序列预测的paper，把创新思路简单提炼了一下，方便大家找灵感。
点击【AI十八式】的主页，获取更多优质资源！
一、DUET: Dual Clustering Enhanced Multivariate Time Series Forecasting
研究方法
论文提出了一种名为DUET的框架，通过在时间维度和通道维度上进行双重聚类来增强多变量时间序列预测。DUET包含两个关键模块：时间聚类模块（TCM）和通道聚类模块（CCM）。TCM通过将时间序列聚类到细粒度的分布中，使用不同的模式提取器来捕获每个分布簇的独特时间模式，从而建模时间模式的异质性。CCM采用通道软聚类策略，通过度量学习在频域中捕获通道间关系，并应用稀疏化以减轻噪声通道的不利影响。此外，DUET还设计了一个融合模块（FM），基于掩码注意力机制，将TCM提取的时间特征与CCM生成的通道掩码矩阵有效结合。
论文创新点
-
提出DUET框架：通过双重聚类策略，分别在时间维度和通道维度上对时间序列进行建模，有效处理时间分布变化和通道间复杂关系。
-
时间聚类模块（TCM）：设计用于处理时间分布变化的模块，通过聚类时间序列到不同的分布簇中，并为每个簇设计特定的模式提取器，捕获时间模式的异质性。
-
通道聚类模块（CCM）：采用通道软聚类策略，在频域中通过度量学习捕获通道间关系，并应用稀疏化技术，减轻噪声通道的影响。
-
融合模块（FM） ：基于掩码注意力机制，将时间特征和通道掩码矩阵有效结合，提升预测性能。
实验结果
DUET在25个真实世界数据集上进行了广泛实验，结果表明其在多变量时间序列预测方面优于当前最先进的基线模型。与非平稳变换器（Non-stationary Transformer）相比，DUET在处理时间分布变化时，MSE降低了32.4%，MAE降低了21.7%。此外，DUET在具有强通道间相关性的数据集（如Solar和Traffic）上表现尤为出色。
二、MMFNET: MULTI-SCALE FREQUENCY MASKING NEURAL NETWORK FOR MULTIVARIATE TIME SERIES FORECASTING
研究方法
论文提出了一种名为MMFNet的模型，通过多尺度掩蔽频率分解方法增强长期多变量时间序列预测。MMFNet通过将时间序列转换为不同尺度的频率段，并使用可学习的掩蔽机制自适应地过滤无关组件，从而捕获精细、中等和粗粒度的时间模式。MMFNet包含三个关键组件：多尺度频率分解、掩蔽频率插值和谱反转。多尺度频率分解将输入时间序列标准化并分割为不同尺度的段，然后通过离散余弦变换（DCT）转换到频域。掩蔽频率插值应用可学习的掩蔽机制过滤频率组件，并通过线性层转换过滤后的频率段。最后，谱反转通过逆离散余弦变换（iDCT）将处理后的频率组件转换回时域。
论文创新点
-
多尺度频率分解：首次采用多尺度频率域分解捕获动态变化，使模型能够同时捕获短期波动和长期趋势。
-
可学习掩蔽机制：引入新颖的可学习掩蔽机制，自适应过滤无关频率组件，使模型能够专注于最有信息量的信号。
-
高效谱反转 ：通过逆离散余弦变换将处理后的频率组件转换回时域，整合多尺度频率信息，生成精炼信号。
实验结果
MMFNet在多个长期时间序列预测（LTSF）基准数据集上的实验结果表明，其性能优于现有模型，MSE平均降低了6.0%。特别是在扩展预测范围（如720）时，MMFNet在ETTh1数据集上实现了0.411、0.419、0.423和0.424的MSE值，在ETTm2数据集上实现了0.346、0.357、0.356和0.349的MSE值。此外，MMFNet在处理具有不同通道数量和采样率的数据集时表现出强大的适应性，无论是在低通道、低采样率场景还是高通道、高采样率场景中均表现出色。
点击【AI十八式】的主页，获取更多优质资源！