时序论文速递:覆盖损失函数优化、模型架构创新、理论基础与表征学习、应用场景与隐私保护等方向(11.10-11.14)

本周精选9篇时间序列领域前沿论文,覆盖损失函数优化、模型架构创新、理论基础与表征学习、应用场景与隐私保护等方向。

源码和论文感兴趣 自取!
原文 资料 这里!

一、损失函数优化方向

1、Beyond MSE: Ordinal Cross-Entropy for Probabilistic Time Series Forecasting

作者:Jieting Wang, Huimei Shi, Feijiang Li, Xiaolei Shang

亮点:针对传统MSE损失在时间序列预测中缺乏不确定性估计、抗异常值能力弱的核心痛点,提出OCE-TS序数分类框架,创新性地采用序数交叉熵(OCE)损失替代MSE。通过将观测值离散为有序区间并基于参数分布生成监督信号,在保留预测值序数关系的同时实现概率输出,为预测结果提供可靠的不确定性量化。理论层面通过影响函数分析,证明交叉熵损失相比MSE具有更优的稳定性和抗异常值鲁棒性;实证层面在7个公开数据集上击败Autoformer、DLinear等5个SOTA基线模型,在MSE和MAE指标上均实现持续领先。

论文https://arxiv.org/pdf/2511.10200

2、RI-Loss: A Learnable Residual-Informed Loss for Time Series Forecasting

作者:Jieting Wang, Xiaolei Shang, Feijiang Li, Furong Peng

亮点:直击MSE损失点态误差计算无法捕捉时序依赖、忽略数据固有噪声的两大缺陷,提出基于希尔伯特-施密特独立性准则(HSIC)的残差知情损失(RI-Loss)。通过强制残差序列与随机时间序列的依赖性,实现对噪声结构的显式建模,助力模型学习更稳健的噪声感知表征。理论上首次推导含双样本复杂度项的非渐近HSIC界,借助伯恩斯坦型集中不等式和拉德马赫复杂度分析实现最优收敛率,为损失函数优化提供严格理论保障;实证上在8个真实世界基准数据集和5个主流预测模型上验证了性能提升,有效提升预测精度与稳定性。

论文https://arxiv.org/pdf/2511.10130

二、模型架构创新方向

1、MDMLP-EIA: Multi-domain Dynamic MLPs with Energy Invariant Attention for Time Series Forecasting

作者:Hu Zhang, Zhien Dai, Zhaohui Tang, Yongfang Xie

亮点:针对MLP类模型在时间序列预测中存在的弱季节信号丢失、权重共享容量不足、通道融合不充分等问题,提出多域动态MLP架构MDMLP-EIA。三大核心创新:1)自适应融合双域季节MLP,将季节信号分为强弱组件,通过自适应零初始化通道融合策略减少噪声干扰;2)能量不变注意力机制,在趋势和季节预测中自适应聚焦不同特征通道,保持信号总能量恒定以增强抗干扰性;3)动态容量调整机制,神经元数量随通道数平方根缩放,确保通道增加时的充足建模能力。在9个基准数据集上实现预测精度与计算效率的双重SOTA,为MLP类模型在时序任务中的应用提供新范式。

论文https://arxiv.org/pdf/2511.09924

2、CaReTS: A Multi-Task Framework Unifying Classification and Regression for Time Series Forecasting

作者:Fulong Yao, Wanqing Zhao, Chao Zheng, Xiaofei Han

亮点:突破传统预测模型难以同时提供精准预测与可解释性的局限,提出CaReTS多任务学习框架,创新性地融合分类与回归任务解决多步时间序列预测问题。采用双流架构:分类分支学习未来逐步趋势,回归分支估计目标变量与最新观测值的偏差,实现宏观趋势与微观偏差的解耦,提升预测可解释性。设计不确定性感知加权多任务损失,自适应平衡各任务贡献度,并实例化4种变体(集成CNN、LSTM、Transformer等主流编码器)。实验表明,该框架在真实世界数据集上不仅预测精度超越SOTA算法,还实现了更优的趋势分类性能,为时序预测的可解释性研究提供新思路。

论文https://arxiv.org/pdf/2511.09789

3、MedFuse: Multiplicative Embedding Fusion For Irregular Clinical Time Series

作者:Yi-Hsien Hsieh, Ta-Jung Chien, Chun-Kai Huang, Shao-Hua Sun, Che Lin

亮点:针对临床时间序列异步采样、缺失值多、特征动态异质的固有特性,提出以MuFuse(乘法嵌入融合)模块为核心的MedFuse框架。创新性地采用乘法调制替代传统加法操作融合特征标识与数值嵌入,在保留特征特异性信息的同时,有效建模特征间的高阶依赖关系。在三个覆盖重症监护和慢性护理的真实世界数据集上,持续超越SOTA基线模型;表征分析验证了乘法融合的表达能力优势,且支持跨数据集预训练,为不规则临床时序数据建模提供了通用且高效的解决方案。

论文https://arxiv.org/pdf/2511.09247

三、理论基础与表征学习方向

1、Koopman Invariants as Drivers of Emergent Time-Series Clustering in Joint-Embedding Predictive Architectures

作者:Pablo Ruiz-Morales, Dries Vanoost, Davy Pissoort, Mathias Verbeke

亮点:首次为JEPAs(联合嵌入预测架构)在时间序列聚类中的涌现能力提供理论解释,提出核心假设:JEPAs的预测目标隐式驱动模型学习系统Koopman算子的不变子空间。通过严格理论证明,理想JEPAs损失在编码器表示系统状态指示函数(Koopman特征函数)时达到最小。在已知动力学的合成数据上验证:将JEPAs的线性预测器约束为近恒等算子,是迫使编码器学习Koopman不变量的关键归纳偏置,该约束还能从数学等价的纠缠最优解中筛选出可解释解,揭示了预测器在表征解纠缠中的核心作用。建立了现代自监督学习与动力系统理论的 principled 连接,为时序模型的可解释性与鲁棒性设计提供理论指导。

论文https://arxiv.org/pdf/2511.09783

2、Local Interaction Autoregressive Model for High Dimension Time Series Data

作者:Jingyang Li, Yang Chen

亮点:针对高维矩阵/张量时间序列的局部依赖特性,提出LIAR(局部交互自回归)框架及可分离变体Separable LIAR,通过建模每个元素与其小邻域的交互,大幅降低参数空间维度,提升推理效率与预测精度。设计基于并行最小二乘的可扩展参数估计算法,搭配BIC型邻域选择器;理论上证明了邻域选择的一致性,推导了核估计与自协方差估计的误差界。数值模拟验证BIC选择器能高成功率恢复真实邻域,LIAR模型实现小估计误差并超越矩阵时序基线;在总电子含量(TEC)数据应用中,成功识别局部时空传播模式,预测性能优于非局部时序模型,为高维时序数据建模提供了高效且有理论保障的新方法。

论文https://arxiv.org/pdf/2511.09542

四、应用场景与隐私保护方向

1、Querying Labeled Time Series Data with Scenario Programs

作者:Edward Kim, Devan Shanker, Varun Bharadwaj, Hongbeen Park, Jinkyu Kim, Hazem Torfah, Daniel J Fremont, Sanjit A Seshia

亮点:聚焦自动驾驶(AV)领域仿真到现实的迁移问题,解决模拟环境中发现的故障场景在真实系统中难以验证的核心痛点。提出场景程序的形式化定义,利用Scenic概率编程语言将抽象场景表示为可执行程序,设计高效查询算法,能从带标签时序传感器数据中精准定位与场景程序匹配的子集。相比最先进的商业视觉大语言模型,该算法不仅预测精度更高,速度提升数个数量级,且能随查询时序数据的持续时间实现高效扩展。为模拟故障场景的真实世界验证提供了自动化工具,对保障网联汽车等 cyber-physical 系统的安全性具有重要实用价值。

论文https://arxiv.org/pdf/2511.10627

2、Cooperative Local Differential Privacy: Securing Time Series Data in Distributed Environments

作者:Bikash Chandra Singh, Md Jakir Hossain, Rafael Diaz, Sandip Roy, Ravi Mukkamala, Sachin Shetty

亮点:针对分布式环境中时序数据的隐私保护需求,提出CLDP(协作局部差分隐私)机制,解决传统LDP方法在固定时间窗口内添加的噪声易被聚合操作抵消、导致隐私泄露的缺陷。核心创新在于噪声向量的跨用户分布式生成与分配:所有用户的扰动数据聚合时噪声相互抵消,在保留整体统计特性的同时实现个体隐私保护。该协作策略不仅有效抵御时间窗口攻击,还能高效适配大规模实时数据集,在医疗、交通等敏感时序数据应用场景中,实现了数据效用与隐私保护的更优平衡,为分布式时序数据的安全共享提供了新方案。

论文https://arxiv.org/pdf/2511.09696

相关推荐
IT_陈寒2 小时前
Vue3性能优化实战:我从这5个技巧中获得了40%的渲染提升
前端·人工智能·后端
DevUI团队2 小时前
🔥Angular开发者看过来:不止于Vue,MateChat智能化UI库现已全面支持Angular!
前端·人工智能·angular.js
北京青翼科技2 小时前
【HD200IS A2 DK 】昇腾 310B 高可靠智能计算开发套件
图像处理·人工智能·信号处理·智能硬件
智算菩萨2 小时前
从 0 到 1 搭建 AI 智能体:从创建、知识库与提示词,到 MCP 接入和多智能体协作的全流程实践与评测
人工智能
onebound_noah2 小时前
电商图片搜索:技术破局与商业落地,重构“视觉到交易”全链路
大数据·前端·网络·人工智能·重构·php
得贤招聘官2 小时前
AI得贤面试智能体:重构企业招聘新范式
人工智能
SEO_juper2 小时前
谷歌搜索全面AI化:SGE如何重构我们的搜索体验与营销格局
人工智能·ai·重构·数字营销
好多渔鱼好多2 小时前
【音视频】AI自适应均衡器的调节精度提升方法
人工智能·音视频
昨日之日20062 小时前
InfiniteTalk V2版 - 声音驱动图片生成高度逼真的说话/唱歌视频 支持50系显卡 ComfyUI+WebUI 一键整合包下载
人工智能·深度学习·音视频