CNN-LSTM-GRU-Attention模型:基于多变量/时间序列预测的Matlab实现

CNN-LSTM-Attention CNN-BiLSTM-Attention CNN-GRU-Attention 基于卷积神经网络-长短期记忆网络结合注意力机制的多变量/时间序列预测 Matlab语言 0.联系三个都发 1.多特征输入,单输出,可实现回归预测或超前预测,Matlab版本要在2020B及以上。 2.特点: [1]卷积神经网络 (CNN):捕捉数据中的局部模式和特征。 [2]长短期记忆网络 (LSTM):处理数据捕捉长期依赖关系。 [3]注意力机制:为模型提供了对关键信息的聚焦能力,从而提高预测的准确度。 3.直接替换Excel数据即可用,注释清晰,适合新手小白 4.附赠测试数据,输入格式如图2所示,可直接运行 5.模型只是提供一个衡量数据集精度的方法,因此无法保证替换数据就一定得到您满意的结果

嘿,各位小伙伴!今天咱来聊聊基于卷积神经网络 - 长短期记忆网络结合注意力机制的多变量/时间序列预测,而且是用 Matlab 语言实现哦,Matlab 版本得在 2020B 及以上哈。

模型简介

1. CNN - LSTM - Attention

  • CNN(卷积神经网络):它就像是一个数据"侦察兵",能够敏锐地捕捉数据中的局部模式和特征。比如说,在时间序列数据里,它可以发现那些短期内呈现的特定规律。
  • LSTM(长短期记忆网络):专门用来处理数据中的长期依赖关系。时间序列数据往往有着过去信息影响未来的特性,LSTM 就能很好地记住这些长期依赖,不会像普通 RNN 那样容易"忘事"。
  • 注意力机制:这可是个厉害的玩意儿,它赋予模型聚焦关键信息的能力。就好比你在看书,注意力机制能帮你一下子抓住重点段落,从而大大提高预测的准确度。

2. CNN - BiLSTM - Attention

和 CNN - LSTM - Attention 类似,只不过这里的 LSTM 换成了 BiLSTM(双向长短期记忆网络)。BiLSTM 不仅能像 LSTM 那样从前往后处理数据,还能从后往前处理,这样就能更全面地捕捉数据中的信息啦。

3. CNN - GRU - Attention

GRU(门控循环单元)是 LSTM 的"精简版",它在保持处理长期依赖能力的同时,结构更简单,计算量也相对较小。结合 CNN 和注意力机制后,同样能在时间序列预测中发挥出色。

模型特点总结

  • 多特征输入,单输出:可以实现回归预测或者超前预测,非常实用。想象一下,你有一堆不同的特征数据,比如天气的温度、湿度、气压等,最后要预测未来某一时刻的温度,这就是多特征输入单输出的场景。
  • 直接替换 Excel 数据即可用,注释清晰,适合新手小白:咱这个模型对新手超友好的,你只要把自己的数据整理成 Excel 格式,直接替换就行,代码里注释也都写得明明白白。
  • 附赠测试数据,输入格式如图 2 所示,可直接运行 :为了方便大家上手,还送了测试数据,按照给定的输入格式,一键运行就能看到效果啦。不过得注意哦,模型只是提供一个衡量数据集精度的方法,无法保证替换数据就一定得到您满意的结果,毕竟不同的数据特性不一样嘛。

代码示例与分析(以 CNN - LSTM - Attention 为例)

数据预处理部分

matlab 复制代码
% 加载数据,假设数据保存在 data.xlsx 文件中
data = readtable('data.xlsx'); 
% 将表格数据转换为数值矩阵
data = table2array(data); 

% 划分训练集和测试集,这里简单地按照 80% 训练,20% 测试划分
trainRatio = 0.8;
trainSize = floor(size(data, 1) * trainRatio);
trainData = data(1:trainSize, :);
testData = data(trainSize + 1:end, :);

% 归一化数据,这里使用最大最小归一化
minVals = min(trainData);
maxVals = max(trainData);
normTrainData = (trainData - repmat(minVals, size(trainData, 1), 1))./(repmat(maxVals - minVals, size(trainData, 1), 1));
normTestData = (testData - repmat(minVals, size(testData, 1), 1))./(repmat(maxVals - minVals, size(testData, 1), 1));

代码分析:首先从 Excel 文件读取数据并转换为数值矩阵。然后按照设定的比例划分训练集和测试集。最后对数据进行归一化处理,这样能让模型训练得更好,避免某些特征因为数值范围过大而主导训练过程。

构建 CNN - LSTM - Attention 模型

matlab 复制代码
inputSize = size(normTrainData, 2) - 1; % 输入特征数量,最后一列是目标值
outputSize = 1; % 单输出

layers = [
    sequenceInputLayer(inputSize) % 序列输入层
    convolution1dLayer(3, 16, 'Padding', 'same') % 1D 卷积层,3 个卷积核,16 个滤波器,same 填充保证输出尺寸不变
    batchNormalizationLayer % 批归一化层,加速训练
    reluLayer % ReLU 激活函数
    maxPooling1dLayer(2) % 最大池化层,下采样
    bilstmLayer(32, 'OutputMode', 'last') % BiLSTM 层,32 个隐藏单元,输出最后一个时间步
    attentionLayer % 注意力层
    fullyConnectedLayer(outputSize) % 全连接层
    regressionLayer]; % 回归层,用于回归预测

代码分析:先定义输入和输出的尺寸。然后开始搭建模型,sequenceInputLayer 接收序列数据,卷积层捕捉局部特征,批归一化和 ReLU 层配合提升模型性能,最大池化层进行下采样减少数据量。BiLSTM 层处理长期依赖,注意力层聚焦关键信息,最后通过全连接层和回归层得到预测结果。

训练模型

matlab 复制代码
options = trainingOptions('adam',...
    'MaxEpochs', 100,...
    'InitialLearnRate', 0.001,...
    'ValidationData', {normTestData(:, 1:end - 1), normTestData(:, end)},...
    'ValidationFrequency', 10,...
    'Verbose', false,...
    'Plots', 'training-progress');

net = trainNetwork(normTrainData(:, 1:end - 1), normTrainData(:, end), layers, options);

代码分析:这里使用 Adam 优化器,设置最大训练轮数为 100,初始学习率 0.001 。将测试数据作为验证集,每 10 轮验证一次。训练模型并保存训练好的网络。

模型预测与评估

matlab 复制代码
predicted = predict(net, normTestData(:, 1:end - 1));
% 反归一化预测结果
predicted = predicted.* (maxVals(end) - minVals(end)) + minVals(end);
testTarget = testData(:, end);

% 计算均方误差
mse = mean((predicted - testTarget).^2);

代码分析:用训练好的模型对测试数据进行预测,然后对预测结果反归一化恢复到原始数据范围。最后计算预测值和真实值之间的均方误差来评估模型性能。

CNN - BiLSTM - Attention 和 CNN - GRU - Attention 的实现思路和这个类似,主要区别在于把 BiLSTM 层或者 GRU 层替换相应的部分就行啦。感兴趣的小伙伴可以自己动手试试,在时间序列预测的世界里畅游一番!希望这篇博文能对大家有所帮助哦。

相关推荐
贝塔实验室8 天前
Altium Designer 集成库介绍
arm开发·数据库·驱动开发·硬件工程·射频工程·基带工程·精益工程
贝塔实验室9 天前
如何使用Altium Designer进行项目编译及验证
单片机·嵌入式硬件·mcu·射频工程·基带工程·嵌入式实时数据库·精益工程
交流QQ:48773927813 天前
基于北方苍鹰优化算法优化径向基函数神经网络(NGO - RBF)的时间序列预测
精益工程
贝塔实验室16 天前
红外编解码彻底解析
网络·嵌入式硬件·信息与通信·信号处理·代码规范·基带工程·精益工程
帅次5 个月前
系统分析师-计算机系统-指令系统&多处理机系统
驱动开发·硬件架构·硬件工程·射频工程·基带工程·材料工程·精益工程
江苏泊苏系统集成有限公司6 个月前
集成电路制造设备防震基座选型指南:为稳定护航-江苏泊苏系统集成有限公司
人工智能·深度学习·目标检测·机器学习·制造·材料工程·精益工程
7yewh7 个月前
FPGA前瞻篇-计数器设计与实现实例
arm开发·驱动开发·嵌入式硬件·fpga开发·硬件架构·硬件工程·精益工程
云空8 个月前
《新凯来:半导体设备制造领域的“国家队”》
硬件工程·制造·材料工程·精益工程
大升聊APS10 个月前
MES系统对于中小型制造企业有什么价值?
人工智能·制造·精益工程