一、研究背景
- 该模型属于深度学习中的序列建模与回归预测领域。
- 结合了时序卷积网络（TCN） 、Transformer（自注意力机制） 和双向长短期记忆网络（BiLSTM） ，旨在综合利用：
- TCN的局部特征提取能力
- Transformer的长程依赖建模能力
- BiLSTM的序列双向建模能力
- 适用于多元时间序列预测、回归分析、特征重要性解释等任务。
二、主要功能
- 数据预处理：读取Excel数据、归一化、划分训练集与测试集。
- 构建混合模型：TCN + Transformer + BiLSTM。
- 模型训练与评估：输出训练过程中的RMSE和Loss曲线。
- 预测与反归一化：对训练集和测试集进行预测，并还原为原始尺度。
- 多指标评估：计算R²、MAE、RMSE等。
- 可视化分析：包括预测对比图、误差图、散点图、性能总结图等。
- SHAP特征重要性分析：解释各输入特征对输出的影响。
- 新数据预测：加载新数据进行预测并保存结果。
三、算法步骤
- 数据导入与归一化
- 划分训练集与测试集（可选择是否打乱）
- 构建TCN-Transformer-BiLSTM网络结构
- 设置训练选项并训练模型
- 模型预测与评估
- SHAP值计算与可视化
- 新数据预测与输出
四、技术路线
TCN层（提取局部时序特征）
→ Transformer层（捕获长期依赖）
→ BiLSTM层（进一步学习序列特征）
→ 全连接层 + 回归输出- TCN：使用因果卷积和膨胀卷积，逐步提取多尺度时序特征。
- Transformer：引入位置编码与自注意力机制，增强模型对序列中重要信息的捕捉。
- BiLSTM：双向学习序列前后信息，增强时序建模能力。
- SHAP分析：基于博弈论的特征贡献度分析，增强模型可解释性。
五、公式原理
-
TCN ：
y t = ∑ k = 1 K w k ⋅ x t − d ⋅ k y_t = \sum_{k=1}^{K} w_k \cdot x_{t-d\cdot k} yt=k=1∑Kwk⋅xt−d⋅k其中 d d d为膨胀因子， K K K 为卷积核大小。
-
Transformer自注意力 ：
Attention ( Q , K , V ) = softmax ( Q K T d k ) V \text{Attention}(Q,K,V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V Attention(Q,K,V)=softmax(dk QKT)V -
BiLSTM ：
h t = LSTM ( x t , h t − 1 ) ( 前向 + 后向 ) h_t = \text{LSTM}(x_t, h_{t-1}) \quad (\text{前向 + 后向}) ht=LSTM(xt,ht−1)(前向 + 后向) -
损失函数：回归任务常用均方误差（MSE）或平均绝对误差（MAE）。
六、参数设定
| 参数 | 值 | 说明 |
|---|---|---|
| 输入特征数 | 5 | 从Excel中读取 |
| 输出目标数 | 2 | 从Excel中读取 |
| TCN层数 | 3 | 每层膨胀因子递增 |
| Transformer头数 | 4 | 多头注意力 |
| BiLSTM隐藏单元 | 64 | 双向LSTM神经元数 |
| 训练轮数 | 1000 | 最大迭代次数 |
| 学习率 | 1e-3 | 初始学习率 |
| 学习率衰减周期 | 800 | 每800轮衰减一次 |
七、运行环境
- 平台：MATLAB（建议R2024b及以上）
八、应用场景
- 时序预测：如电力负荷预测、气象预测、交通流量预测等。
- 多输出回归：如同时预测多个相关变量（温度、湿度、风速等）。
- 特征重要性分析：解释各输入变量对输出的贡献程度。
- 工业建模：如化工过程控制、设备故障预警等。
- 金融预测：如多指标股价预测、风险分析等。
