相关链接
论文arXiv地址: https://arxiv.org/abs/2410.16928
代码地址: https://github.com/mauricekraus/xlstm-mixer
代码及其思路讲解:https://space.bilibili.com/51422950?spm_id_from=333.1007.0.0
摘要
多元时间序列预测既要刻画每个变量自身的时间演化,又要刻画变量之间的相互关系,两类信息缺一不可。论文提出xLSTM-Mixer,首次把复兴中的循环网络xLSTM(具体是sLSTM)与混合(mixing)架构结合起来,在一个极轻量的模型里同时完成时间混合、时间-变量联合混合与多视图融合。
模型先用跨变量共享权重的NLinear做一次通道独立初始预测,再升维到高维隐空间,由一组沿变量轴(variate)扫描的sLSTM块同时混合时间与变量信息,并引入一个可学习的初始token作为软提示;最后把原始视图与反转视图用共享权重的sLSTM分别处理、线性融合并反归一化。在7个长期预测基准上,它在MSE上取得11/28、MAE上取得16/28项第一,并在6/7数据集上定义新SOTA;在GIFT-Eval概率预测总榜上排名第二、是最强的纯监督模型;而显存比TimeMixer还低一到两个数量级。
Q1:这个模型试图解决什么问题?
核心问题是:多元时序中"时间依赖"和"变量依赖"是两种交织的结构,现有模型往往只能偏重其一------通道独立的线性/Transformer擅长单变量时间建模却丢失变量关系,而把变量当token的倒置模型虽能建模变量关系,又难以同时保住细粒度时间结构;如何在一个参数恒定、显存极低的循环模型里同时把两种信息混合到位,是论文要回答的关键问题。

图注: 模型动机与效率(Figure 1,Weather、Electricity,预测长度H=336)。上排柱状图是各模型相对xLSTM-Mixer的MSE/MAE(越接近100%越好,xLSTM-Mixer即基准),下排是每次迭代耗时与GPU显存(对数轴),颜色与形状区分回看长度。可见xLSTM-Mixer在精度领先的同时,显存几乎不随回看长度增长、远低于对比模型。
1. **时间与变量难兼顾:**时间维度刻画每条序列的演化,变量维度刻画跨序列相关;通道独立方法(DLinear、PatchTST等)把变量隔离、放弃跨变量信息,而全注意力或倒置方法又面临计算/显存随变量数或序列长度快速膨胀的问题;
2. **循环模型一度被边缘化:**LSTM等RNN曾长期用于序列建模,但在Transformer、SSM、Mixer等架构的冲击下逐渐被遗忘;论文想证明,借助xLSTM的标量记忆机制,循环结构不仅能回归,还能与混合架构优势互补;
3. **高精度与高显存的矛盾:**强模型往往伴随显存、训练时间随回看长度激增;图1显示,当回看长度拉长,多数基线显存显著上升,而xLSTM-Mixer几乎不增长,作者希望兼得SOTA精度与极低资源占用;
4. **鲁棒性与可解释性:**除了点预测精度,还需在概率预测(GIFT-Eval)、分类等多任务上验证通用性,并弄清模型是否真的学到了跨变量关系、初始token学到了什么、变量顺序是否重要。
Q2:相关研究
线性与MLP类时间建模
DLinear证明"去趋势+简单线性层"在长序列预测上就很强,NLinear进一步以末值减法配合归一化;TiDE、CycleNet等MLP模型以极低代价取得有竞争力的结果。它们大多通道独立、权重共享,参数省但难以利用变量间关系。
Mixer与倒置结构
TSMixer、TimeMixer等把MLP-Mixer思想引入时序,沿时间和特征两个维度分别做全连接混合;iTransformer"倒置"结构,把每个变量当作一个token、沿变量轴做注意力,从而专门建模变量关系。xLSTM-Mixer正是借鉴"沿变量扫描"这一做法,但把昂贵的自注意力换成sLSTM循环。
循环、SSM与xLSTM
经典LSTM用输入、遗忘、输出门控制信息流;xLSTM通过指数门控、标量记忆与记忆混合、多头块对角循环矩阵增强LSTM,分为sLSTM与mLSTM两种块。同期xLSTMTime等已把xLSTM用于时序,但xLSTM-Mixer首次只选用sLSTM并沿变量轴扫描,使其同时承担时间与变量混合。
Transformer、卷积与预训练基线
PatchTST以patch化+通道独立成为强基线,TimesNet以2D周期变化建模,ModernTCN用大核卷积,Chimera、S-Mamba等是状态空间模型,Timer-XL、MoiraiBase则是大规模预训练的零样本预测器。论文在统一、可调超参的公平协议下与它们全面对比。
Q3:作者是如何解决的?
总体思路:三阶段混合

图注: xLSTM-Mixer整体架构(Figure 2)。①Time Mixing:RevIN归一化后用跨变量共享权重的NLinear做通道独立初始预测x_initial;②Joint Mixing:先经FCup升维到D,在序列前拼接可学习初始token η,再由M个sLSTM块组成的栈S沿变量轴扫描,同时混合时间与变量;③View Mixing:对原始嵌入x_up与反转嵌入x̂_up用共享权重sLSTM分别得到y′、y″,再经FCview线性融合并反归一化输出。
给定长度T、V个变量的输入,模型依次经过"时间混合→联合混合→视图混合"三个阶段。各阶段之间通过转置(Transpose)切换数据排布,使同一套sLSTM既能在时间方向、又能在变量方向上提取非线性关系;归一化层与跳跃连接则保证训练稳定、参数量可控。
阶段一:RevIN归一化与NLinear初始预测
先用可逆实例归一化RevIN按每个样本自身的均值、方差标准化,并用可学习缩放γ与偏置β:x_norm=γ⊙(x−Ex)/√(Varx+ε)+β。随后对每个变量分别跑同一个NLinear:x_initial=FC(x_norm_(1:T)−x_norm_T)+x_norm_T,其中FC:T→H是带偏置的全连接层。该层在所有变量间共享权重(权重绑定),既限制参数规模,又起到正则化作用。论文还指出,RevIN同时承担了Mixer架构中常见的残差连接。
阶段二:升维、初始token与沿变量轴的sLSTM
初始预测x_initial∈R^(V×H)只捕捉了历史与未来的基本线性关系,需要进一步精化。先用跨变量共享的FCup:H→D把它升维到高维隐空间x_up,为sLSTM单元提供足够的隐维度D;这一步与状态空间模型中常见的上投影类似。
**关键在于扫描方向:**sLSTM栈S(·)把x_up∈R^(V×D)沿变量顺序扫描------每个token代表一个变量的全部时间步(借鉴iTransformer),而不是把一个变量当成一个序列。这样sLSTM在逐变量递归时同时学习时间与变量两个维度的非线性关系;沿变量扫描带来"时间与显存随变量数线性增长、参数量却恒定"的好处,代价是可能固定了一个次优的变量顺序(论文在实验中证明影响不大)。
**为什么只用sLSTM不用mLSTM:**mLSTM对序列元素相对独立地处理,不擅长学习token之间的关系,而sLSTM的记忆混合与块对角循环矩阵更适合在变量间传递信息,因此论文只堆叠sLSTM块。
sLSTM在标准LSTM基础上引入指数门控(输入门、遗忘门用exp,配合stabilizer状态m_t取最大值防止数值溢出)、标量记忆与多头记忆混合:cell状态c_t=f_t⊙c_(t−1)+i_t⊙z_t,配合归一化状态n_t,隐状态h_t=o_t⊙c_t⊙n_t^(−1),从而在多条记忆轨迹间混合信息。
**可学习初始token η:**处理token序列前需初始化sLSTM的首个隐状态。论文为每个编码序列拼接一个可学习的初始嵌入token η∈R^D,思想类似大语言模型中的软提示(soft prompt),用很小的反向传播开销,让初始记忆针对具体数据集的特性(如季节性)进行条件化。
阶段三:原始视图与反转视图的多视图融合
为进一步正则化sLSTM与线性投影,模型对原始嵌入x_up与"反转嵌入"x̂_up(把含η在内的潜在维度顺序反转)分别计算预测:y′=S(x_up)、y″=S(x̂_up),两个视图共享同一套sLSTM权重。这既可以看作多任务学习,也可看作对不同变量顺序做带权共享的集成。最后用逐变量的线性层FCview:D×D→H融合:y_norm=FCview(y′,y″),再做RevIN反归一化y=RevIN^(−1)(y_norm)得到最终预测。
复杂度与设计要点
由于sLSTM沿变量轴扫描且权重在变量间共享,模型的运行时间与内存随变量数线性增长、而参数总量保持恒定;同时sLSTM不含自注意力的二次复杂度,回看长度拉长时显存增长极慢。多头上数量较多、隐藏维D较大时效果更好,这些都在后续超参实验中得到验证。
Q4:实验效果如何?
数据集、协议与实现

图注: 长期预测基准数据集(Table 5)。共7个数据集:Weather(21变量、10分钟采样)、Electricity(321变量、1小时)、Traffic(862变量、1小时)、ETT四个子集(ETTh1/ETTh2/ETTm1/ETTm2,ETT为7变量、小时或15分钟/60分钟采样),并给出各数据集的Hurst指数范围。
长期预测在7个常用基准上进行,覆盖天气、电力、交通与变压器工况,沿用Wu等与Zhou等的标准划分(按6:2:2),预测长度取{96,192,336,720},以MSE与MAE评估。为避免固定回看长度96造成的不公平比较,作者为所有基线与xLSTM-Mixer都调优输入长度等超参,回看长度可选{96,256,512,768,1024,2048}。
对比17个近期强基线,覆盖循环(xLSTMTime、LSTM)、Mixer(TimeMixer++、TimeMixer、TSMixer)、MLP(CycleNet、DLinear、TiDE)、状态空间(S-Mamba、Chimera)、Transformer(PatchTST、iTransformer)、卷积(ModernTCN、TimesNet)与预训练零样本(Timer-XL、MoiraiBase)。用MAE作训练损失、Adam(β1=0.9、β2=0.999,无权重衰减),余弦退火,训练60个epoch,梯度裁剪1.0,三个随机种子{2021,2022,2023}取平均,用Optuna调参。

图注: 超参数搜索空间(Table 4)。批大小{16,32,64,128,256,512},初始学习率从1e-2到1e-4共6档,预热步数{5,10,15},回看长度{96,256,512,768,1024,2048},嵌入维D∈{32,64,128,256,512,768,1024},sLSTM卷积核宽{disabled,2,4},dropout{0.1,0.25},sLSTM块数M∈{1,2,3,4}、头数∈{4,8,16,32}。
实现上基于PyTorch 2与Lightning 2.4,并自行实现了算力≥8.0的CUDA版sLSTM算子,全部实验在单张A100 80GB上完成。
长期预测主结果

图注: 多元长期预测主结果(Table 1,四个预测长度的平均,红色最优、蓝色下划线次优;底部Wins为各模型在28项设置中的获胜数)。xLSTM-Mixer在Weather、Electricity、ETTh1、ETTh2、ETTm1、ETTm2等数据集上排名靠前,MSE获胜11项、MAE获胜16项,均为全场最多;Traffic上TiDE等占优,预训练模型Timer-XL/MoiraiBase在Traffic上无零样本结果。
xLSTM-Mixer在28项设置中取得11项MSE第一、16项MAE第一,并在7个数据集的6个上定义了新的SOTA。以平均结果为例,Weather为0.219/0.250、Electricity为0.153/0.245、ETTh1为0.397/0.420、ETTh2为0.340/0.382、ETTm1为0.339/0.366、ETTm2为0.248/0.307,普遍优于或持平xLSTMTime、TimeMixer、PatchTST、iTransformer等。它在变量数较少的数据集上优势明显,在高维Traffic上则由TiDE等占优,反映"沿变量轴扫描"对不同规模数据的差异。
完整结果:逐预测长度

图注: 完整长期预测结果(Table 6,7个数据集×4个预测长度,含AVG与Wins;红色最优、蓝色下划线次优)。随预测长度从96增至720,各模型误差普遍上升,但xLSTM-Mixer在多数数据集的AVG仍领先;脚注标注零样本结果、引用来源以及Traffic/PEMS被用于预训练故无零样本结果。
Table 6给出每个数据集在96/192/336/720四个长度上的MSE/MAE与AVG。整体看,xLSTM-Mixer在ETT四个子集与Weather、Electricity上的优势在长horizon(336/720)依然保持,说明sLSTM的标量记忆在长预测窗口下退化更慢;这与消融中"sLSTM显著优于LSTM/GRU,尤其在长horizon"的结论一致。
统计显著性检验

图注: 长期预测的临界差异(CD)图(Figure 5,MSE、预测长度H=96)。Friedman检验确认各模型性能分布不同(p<1e-10),再做Conover事后检验并用Holm方法校正族错误率。xLSTM-Mixer平均排名1.5、居最左且显著优于除xLSTMTime外的所有模型(未被黑线连接即差异显著);xLSTMTime平均排名4.0,但与TimeMixer、TSMixer、ModernTCN、Chimera、PatchTST、TiDE等统计上不可分。
除了数获胜数,作者按Demšar的规范做统计检验:先做Friedman检验(p<1e-10),再做Conover事后检验并以Holm校正。为避免不同horizon的强相关结果人为抬高显著性,只在MSE、H=96这一设定上比较。在p=0.05下,xLSTM-Mixer显著优于除xLSTMTime之外的所有方法;更关键的是平均排名1.5对xLSTMTime的4.0,且xLSTMTime与众多基线统计不可分,说明xLSTM-Mixer的领先不是偶然,而是稳定的、可检验的优势。
模型效率:显存几乎不随回看长度增长
如图1所示,在Weather与Electricity、H=336下,作者测量了每次训练迭代的平均墙钟时间与峰值显存。xLSTM-Mixer在时间和显存上都随回看长度T增长得极其平缓,只在更大回看时略有增加;它在显存上比以效率著称的TimeMixer还低一到两个数量级。原因正是沿变量轴扫描、无自注意力二次复杂度,以及变量间权重共享。这意味着用更长历史时,xLSTM-Mixer几乎不必担心显存爆炸,特别适合资源受限场景。
GIFT-Eval概率预测:总榜第二、最强纯监督模型

图注: GIFT-Eval跨类别Top-10(Table 2,MASE与CRPS越低越好)。TiRex以CRPS 0.498居首,xLSTM-Mixer(ours)以MASE 0.780、CRPS 0.510排名第二,超过TEMPO_ensemble、Toto、TabPFN-TS以及多个YingLong、timesfm、sundial、Chronos等预训练大模型。
为验证点预测之外的通用性,作者把模型用于GIFT-Eval这一横跨多领域、多频率、多horizon、含单/多变量的通用预测基准,并按官方协议加一个分位数(quantile)预测头,输出完整预测分布,以MASE和CRPS评估。结果显示,xLSTM-Mixer是不使用GIFT-Eval预训练语料的最强纯监督模型、总榜第二,仅略逊于使用了预训练数据的TiRex。

图注: GIFT-Eval总榜完整结果(Table 8,39个模型)。xLSTM-Mixer以MASE 0.780、CRPS 0.510排第2,仅次于TiRex(0.724/0.498),在所有纯监督方法中排名最高。

图注: GIFT-Eval多变量榜(Table 9,39个模型)。TEMPO_ensemble以CRPS 0.427居首,xLSTM-Mixer以0.839/0.473排第2。

图注: GIFT-Eval单变量榜(Table 10,39个模型)。TiRex以CRPS 0.505居首,xLSTM-Mixer以0.737/0.541排第2,领先TabPFN-TS、Toto、timesfm、Chronos等。

图注: GIFT-Eval分领域Top-10(Table 11,EconFin、Energy、Healthcare、Nature、Sales、Transport、Web/CloudOps共7个领域)。xLSTM-Mixer(加粗)在Healthcare上排名第一,在其余多数领域也稳定进入前列,说明模型能适配不同频率、尺度和噪声水平而无需领域专属改造。
细分榜单显示,xLSTM-Mixer在多变量榜以CRPS 0.473、单变量榜以CRPS 0.541均排第二;分领域看,它在Healthcare上拿到第一,在EconFin、Energy、Transport、Web/CloudOps等领域也稳居Top-10。论文据此指出,多变量CRPS(0.473)低于单变量CRPS(0.541),说明混合变量确实让相关序列共享了季节、冲击等共性信息,且这种跨变量收益不需要在分位数头里做领域专属调参。

图注: GIFT-Eval的临界差异(CD)图(Figure 6,对中位数MSE做显著性检验)。xlstm_mixer(平均排名6.9)居最左,显著优于除sundial_base_128m、TiRex、TTM-R2-Finetuned之外的全部38个方法,右侧的Naive、Crossformer、Auto_ETS等明显最差。
GIFT-Eval上同样做了Friedman检验与CD分析:xLSTM-Mixer显著优于除sundial_base_128m、TiRex和TTM-R2-Finetuned之外的全部38个方法,统计上确认了其在概率预测场景的稳健性。
拓展到时间序列分类

图注: 时间序列分类结果(Table 14,平均准确率%,改编自Wu等)。对比DTW、XGBoost、Rocket、xLSTM、LSTM、LSTNet、S4、Transformer、MLP、TIDE、TimesNet、ModernTCN等。xLSTM-Mixer(Mixer列)平均准确率74.1%,与最强的ModernTCN(74.2%)基本持平,在EthanolConcentration、FaceDetection、Heartbeat、PEMS-SF、SelfRegulationSCP等多个数据集上领先。
为验证架构通用性,作者把最终回归投影层换成单个全连接分类头、接softmax,用交叉熵在标注序列上端到端训练,数据预处理与增强沿用预测流程。结果xLSTM-Mixer平均准确率74.1%,与标杆ModernTCN的74.2%相当,且未做任何分类专用技巧。这说明"循环+混合"的统一核心可以作为序列建模的通用骨干。
消融实验:每个组件都不可或缺

图注: 消融结果(Table 3,Weather与ETTm1,13个配置#1---#14,三个种子平均)。#1为完整模型;去掉或替换时间混合、sLSTM类型(mLSTM/LSTM/GRU)、沿变量循环、初始token、视图混合中的任一组件,误差都上升。
1. **sLSTM是核心:**去掉xLSTM、仅用普通LSTM(#3)使MAE上升6.2%、MSE上升7.0%;换成mLSTM(#2)、LSTM(#3)、GRU(#4)都更差,长horizon上LSTM/GRU退化尤其明显,说明sLSTM的标量记忆与记忆混合能力更强;
2. **沿变量循环方向关键:**把扫描方向从变量改为时间(#5),MAE/MSE上升4.3%/4.7%,证明沿变量轴扫描才是同时拿到时间与变量信息的关键;
3. **时间混合(NLinear)有用:**去掉时间混合(#11)使MAE上升2.7%、MSE上升3.1%,例如ETTm1在96/192长度上MAE分别上升3.4%/3.1%;若只保留时间混合、去掉其余全部(Weather 192),性能下降达13.7%;
4. **视图混合与初始token是稳定增益:**去掉视图混合(#8)使MAE/MSE上升0.6%/0.7%,去掉初始token(#7)上升0.4%/0.7%,二者单独贡献不大但方向一致为正;
5. **NLinear可被DLinear替代:**把初始线性预测从NLinear换成DLinear(#6)仍有竞争力,说明线性初始化这一思路本身稳健,具体线性形式不是关键。
隐藏维度D与回看长度T的敏感性

图注: 超参敏感性(Figure 4)。(a) Electricity上隐藏维D从2^5到2^11变化:预测长度越长,增大D带来的收益越明显;(b) ETTm1上回看长度T从2^7到2^11变化:xLSTM-Mixer(↓标注)在多数horizon下都取得最低MSE,且相比Transformer类基线能更有效利用更长回看。
图4a显示,在Electricity上,更大的隐藏维D让sLSTM能更好刻画长horizon下的复杂序列,D增大时336/720等长预测的MSE明显下降;图4b显示,在ETTm1上,xLSTM-Mixer几乎在所有回看长度下都最优,且能把更长历史转化为精度提升,而Transformer类基线在长回看时改善有限甚至变差。一个细节是:对很短的预测(96/192),超过768步的历史信息变得冗余,各模型都略有下降;horizon越长,更远的回看越有用。
初始token到底学到了什么

图注: 初始token解码(Figure 7,Weather/ETTm1/ETTh2,回看长度固定96,预测长度96/192/336/720)。把初始token η经sLSTM栈与多视图融合解码为一段"条件化"序列,随预测长度增加,η逐渐显现出与各数据集一致的季节性与动力学模式(Weather呈平滑的长周期、ETT序列呈高频噪声),ETTm1/ETTh2只展示单个种子。
作者把初始token η通过sLSTM栈S解码、再经多视图融合与FCview还原成一段序列,用来观察它对sLSTM初始记忆的条件化作用。结果显示:解码出的序列随预测horizon增加,越来越清楚地呈现该数据集的底层季节性与动态特征;而且这些模式在不同数据集、不同初始化与horizon之间高度一致,说明η是由数据驱动、并对该域有意义的,而非随机噪声。
变量顺序的影响与跨变量归因

图注: 变量置换实验(Table 12,Weather/ETTm1/Electricity,四个预测长度,每种随机置换三次初始化平均)。与数据集原始顺序(From Dataset)相比,四种随机置换(Perm.#1---#4)的MSE/MAE变化很小,原始顺序已能取得很好的预测。
沿变量轴扫描理论上会受变量顺序影响。作者在Weather、ETTm1、Electricity上对四种随机顺序各跑三次:性能确实与顺序有一定关系,但数据集自带的标准顺序已经足够好,随机置换没有系统性增益,因此变量顺序在实践中并非显著限制。

图注: 跨变量特征归因(Figure 8,基于扰动的Shapley值归因,严格下三角)。(a) Weather 21×21、(b) ETTh2 7×7、(c) ETTm1 7×7;行为输出变量、列为输入变量,颜色为变量归因得分(红蓝对称)。由于sLSTM沿变量精炼模块只允许每个变量受其之前变量影响,归因严格出现在下三角,且可看到若干强相关变量对(如Weather中的0.66/0.62/0.58/0.67,ETTh2/ETTm1中的0.78/0.79/0.76等)。
为验证模型是否真的捕获了跨变量关系,作者用零基线、在整个预测horizon上聚合标量的扰动法近似Shapley值(实现上借助Captum),得到每个输出变量对各输入变量的依赖。由于sLSTM沿变量扫描时每个变量只能被它之前的变量影响,归因矩阵严格呈下三角结构。三个数据集上都能清楚看到非零的跨变量归因块,说明xLSTM-Mixer确实学到了有意义的变量间关系,而不只是做单变量映射。
多视图是否越多越好

图注: 多视图集成(Table 13,ETTh2,视图数E=1/2/5/8/10,括号内为相对E=1的变化率)。E=2(即完整xLSTM-Mixer的原始+反转两视图)在四个horizon上几乎都是最优;继续增加到5、8、10个随机置换视图,MSE/MAE不再改善甚至变差。
既然双视图可看作对变量顺序的集成,作者进一步把FCview扩展到更多随机置换视图(E=5/8/10)。结果表明,E=2即原始+反转两视图是总体最佳选择,更多视图在ETTh2等多个数据集上都不能继续提升,反而增加复杂度与归因难度,因此论文默认只用两个视图。
预测曲线可视化

图注: 预测曲线可视化(Figure 3,Weather与ETTm1,回看与预测长度均为96)。灰色为回看、蓝色为真实目标、橙色为预测。xLSTM-Mixer(第一列)在Weather的平滑峰值与ETTm1的高频波动上都贴合真实曲线;第二列"xLSTM-Mixer (Init)"只取NLinear初始预测、尚未上投影,明显更平滑、抓不住峰,直观显示sLSTM精化模块的作用;xLSTMTime、TimeMixer、PatchTST作为参照。
对比xLSTM-Mixer与"去掉sLSTM精化、仅保留初始预测"的版本可以看到:初始NLinear预测只能给出较平滑的大致轮廓,而加入sLSTM联合混合与视图融合后,预测能更好地跟上峰值与高频波动;与xLSTMTime、TimeMixer、PatchTST相比,xLSTM-Mixer在两段示例上的目标曲线贴合度同样最好或更好。
结果稳定性:多次运行的标准差

图注: 低方差验证(Table 7,各数据集四个预测长度上的平均性能与标准差,与TimeMixer、TiDE对照)。xLSTM-Mixer的标准差几乎都在±0.000至±0.001之间,明显小于TimeMixer、TiDE(部分达±0.009、±0.013),说明它在达到SOTA的同时结果非常稳定。
Table 7用四个预测长度的平均性能与标准差,与两个有竞争力的基线TimeMixer、TiDE对照。xLSTM-Mixer在所有数据集上的标准差都极小(多为±0.000、±0.001),而TimeMixer/TiDE在个别指标上达到±0.009、±0.013,说明xLSTM-Mixer不仅平均精度高,而且对随机初始化不敏感、训练稳定。
Q5:有哪些可以继续探索的点?
1. **要求均匀时间网格:**模型目前建立在规则采样的时间网格上,对不规则采样、含缺失或时间戳不均匀的数据难以直接处理,引入连续时间嵌入(如Neural ODE、连续时间编码)是自然方向;
2. **极高维变量仍是瓶颈:**沿变量扫描使时间与内存随变量数线性增长、参数恒定,但当变量数极其庞大(如数千、上万通道)时,线性增长本身也会成为限制,可研究自适应变量分组、层次化变量聚合;
3. **变量顺序与分组:**虽然实验表明标准顺序已足够好,但如何自动学习或搜索一个更优的变量顺序、把强相关变量预先聚类,仍可能进一步释放沿变量循环的潜力;
4. **多视图与可解释性的权衡:**双视图混合提升了精度,但也让归因更困难;可设计更轻量的解释模块,在保持性能的同时给出清晰的跨变量贡献;
5. **任务与场景扩展:**论文已展示分类、概率预测的潜力,后续可系统拓展到插补、异常检测、零样本/跨域预测,以及非均匀、多模态的工业时序,并探索更轻量的部署。
Q6:总结
xLSTM-Mixer要回答的问题是:多元时间序列里时间依赖与变量依赖交织,如何在一个轻量模型里同时混合到位,并让被边缘化的循环网络重新具备竞争力。它的回答是"用标量记忆做混合"------首次把xLSTM中的sLSTM与混合架构结合,并沿变量轴扫描。
模型分三步:先用RevIN归一化、跨变量共享NLinear做通道独立的时间混合;再经FCup升维、拼接可学习初始token η,由一组sLSTM沿变量轴递归,在常数参数、时间与显存随变量数线性增长的条件下同时混合时间与变量;最后用共享权重的sLSTM分别处理原始视图与反转视图,线性融合并反归一化。
实验充分而有层次:长期预测上MSE取得11/28、MAE取得16/28项第一、6/7数据集SOTA,CD图证明其平均排名1.5且显著优于除xLSTMTime外的所有对手;GIFT-Eval上总榜第二、最强纯监督模型,Healthcare领域第一;分类上与ModernTCN持平;显存比TimeMixer低一到两个数量级、且几乎不随回看长度增长。消融、D/T敏感性、初始token解码、变量置换、Shapley归因、多视图与标准差等分析逐一确认了每个组件的必要性与结果的稳健性。论文也坦诚均匀采样假设、极高维线性增长与多视图归因困难等局限,为后续改进留下清晰方向。