多维时序 | MATLAB实现SCNGO-BiLSTM-Attention多变量时间序列预测

多维时序 | MATLAB实现SCNGO-BiLSTM-Attention多变量时间序列预测

目录

预测效果

基本介绍

多维时序 | MATLAB实现SCNGO-BiLSTM-Attention多变量时间序列预测。

模型描述

MATLAB实现SCNGO-BiLSTM-Attention多变量时间序列预测

1.无Attention适用于MATLAB 2020版及以上版本;融合Attention要求Matlab2023版以上;

2.基于融合正余弦和折射反向学习的北方苍鹰优化算法(SCNGO)、双向长短期记忆网络(BiLSTM)融合注意力机制的超前24步多变量时间序列回归预测算法;

3.多变量特征输入,单序列变量输出,输入前一天的特征,实现后一天的预测,超前24步预测。

通过SCNGO优化算法优化学习率、神经元个数,这2个关键参数,以最小MAPE为目标函数。

提供损失、RMSE迭代变化极坐标图;网络的特征可视化图;测试对比图;适应度曲线(若首轮精度最高,则适应度曲线为水平直线)。提供MAPE、RMSE、MAE等计算结果展示。。

4.北方苍鹰优化算法(Northern Goshawk Optimization,NGO)由MOHAMMAD DEHGHANI等人于2022年提出,该算法,该算法模拟了北方苍鹰捕猎过程(猎物识别和攻击、追逐及逃生)。

改进策略参照麻雀优化算法,改进点如下:

①采用折射反向学习策略初始化北方苍鹰算法个体,基本思想是通过计算当前解的反向解来扩大搜索范围,借此找出给定问题更好的备选解;

②采用正余弦策略替换原始苍鹰算法的勘察阶段的位置更新公式;

③对正余弦策略的步长搜索因子进行改进;原始步长搜索因子呈线性递减趋势,不利于进一步平衡北方苍鹰算法的全局搜索和局部开发能力。

5.适用领域:

风速预测、光伏功率预测、发电功率预测、碳价预测等多种应用。

6.使用便捷:

直接使用EXCEL表格导入数据,无需大幅修改程序。内部有详细注释,易于理解。

程序设计

  • 完整程序和数据获取方式1:同等价值程序兑换;
  • 完整程序和数据获取方式2:私信博主回复MATLAB实现SCNGO-BiLSTM-Attention多变量时间序列预测获取。
clike 复制代码
 
        gruLayer(32,'OutputMode',"last",'Name','bil4','RecurrentWeightsInitializer','He','InputWeightsInitializer','He')
        dropoutLayer(0.25,'Name','drop2')
        % 全连接层
        fullyConnectedLayer(numResponses,'Name','fc')
        regressionLayer('Name','output')    ];

    layers = layerGraph(layers);
    layers = connectLayers(layers,'fold/miniBatchSize','unfold/miniBatchSize');
%-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
%% 训练选项
if gpuDeviceCount>0
    mydevice = 'gpu';
else
    mydevice = 'cpu';
end
    options = trainingOptions('adam', ...
        'MaxEpochs',MaxEpochs, ...
        'MiniBatchSize',MiniBatchSize, ...
        'GradientThreshold',1, ...
        'InitialLearnRate',learningrate, ...
        'LearnRateSchedule','piecewise', ...
        'LearnRateDropPeriod',56, ...
        'LearnRateDropFactor',0.25, ...
        'L2Regularization',1e-3,...
        'GradientDecayFactor',0.95,...
        'Verbose',false, ...
        'Shuffle',"every-epoch",...
        'ExecutionEnvironment',mydevice,...
        'Plots','training-progress');
%% 模型训练
rng(0);
net = trainNetwork(XrTrain,YrTrain,layers,options);
%-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
%% 测试数据预测
% 测试集预测
YPred = predict(net,XrTest,"ExecutionEnvironment",mydevice,"MiniBatchSize",numFeatures);
YPred = YPred';
% 数据反归一化
YPred = sig.*YPred + mu;
YTest = sig.*YTest + mu;
------------------------------------------------
版权声明:本文为CSDN博主「机器学习之心」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

参考资料

1\] http://t.csdn.cn/pCWSp \[2\] https://download.csdn.net/download/kjm13182345320/87568090?spm=1001.2014.3001.5501 \[3\] https://blog.csdn.net/kjm13182345320/article/details/129433463?spm=1001.2014.3001.5501

相关推荐
机器学习之心7 天前
分类预测 | Matlab实现CNN-LSTM-Attention高光谱数据分类
matlab·attention·cnn-lstm-att·高光谱数据分类
机器学习之心23 天前
贝叶斯优化Transformer融合支持向量机多变量时间序列预测,Matlab实现
支持向量机·matlab·transformer·多变量时间序列预测
我感觉。2 个月前
【深度学习—李宏毅教程笔记】各式各样的 Attention
人工智能·深度学习·attention·self-attention
风筝超冷2 个月前
GPT - 多头注意力机制(Multi-Head Attention)模块
gpt·深度学习·attention
机器学习之心2 个月前
回归预测 | Matlab实现RIME-CNN-GRU-Attention霜冰优化卷积门控循环单元注意力机制多变量回归预测
回归·attention·cnn-gru·注意力机制多变量回归预测·rime-cnn-gru·霜冰优化卷积门控循环单元
机器学习之心2 个月前
TCN-LSTM时间卷积长短期记忆神经网络多变量时间序列预测(Matlab完整源码和数据)
神经网络·matlab·lstm·多变量时间序列预测·tcn-lstm·时间卷积长短期记忆神经网络
机器学习之心2 个月前
Transformer+BO-SVM多变量时间序列预测(Matlab)
支持向量机·matlab·transformer·贝叶斯优化·多变量时间序列预测
机器学习之心2 个月前
分类预测 | Matlab实现BO-LSTM-Attention多特征分类预测
matlab·分类·lstm·attention·bo-lstm
zbdx不知名菜鸡3 个月前
self Attention为何除以根号dk?(全新角度)
transformer·attention·概率论