1. 研究背景
本研究背景旨在对比不同深度学习模型在多特征分类任务上的性能。通过对比Transformer-GRU 、Transformer 、CNN-GRU 、GRU 、CNN五种主流的深度学习模型，帮助研究者和工程师快速选择适用于自身数据特点的模型。代码支持数据预处理、模型训练、评估和可视化分析，适用于数据分类任务。
2. 主要功能
- 五模型对比：一次性训练并评估五种深度学习模型。
- 自动数据处理：支持数据打乱、归一化、格式转换（适配不同模型输入）。
- 多指标评估：计算准确率、精确率、召回率、F1分数、AUC值。
- 可视化展示：生成性能对比图、分类效果图、混淆矩阵、综合评分图等。
- 模型保存与报告：自动保存最佳模型结果，生成综合性能报告。
3. 算法步骤
-
数据读取与预处理
- 读取Excel数据文件。
- 按类别划分训练集与测试集。
- 数据归一化处理。
-
模型定义
- 定义五个深度学习模型结构：
- GRU
- CNN
- CNN-GRU
- Transformer
- Transformer-GRU
- 定义五个深度学习模型结构：
-
数据格式适配
- 为不同模型准备不同的输入数据格式（cell数组、4D数组等）。
-
模型训练与评估
- 使用Adam优化器训练模型。
- 预测并计算多分类指标。
-
结果对比与可视化
- 生成柱状图、饼图、分类效果图、混淆矩阵等。
- 输出综合性能报告。
4. 技术路线
- 开发环境：MATLAB + Deep Learning Toolbox。
- 模型结构 ：
- CNN：卷积层 + 池化层 + 全连接层。
- GRU：门控循环单元 + Dropout。
- Transformer：自注意力机制 + 位置编码。
- CNN-GRU：卷积提取特征 + GRU处理时序。
- Transformer-GRU：注意力机制 + GRU融合。
- 评价指标：准确率、精确率、召回率、F1、AUC。
- 可视化工具：MATLAB绘图函数 + 混淆矩阵图表。
5. 公式原理
- 准确率 ：
Accuracy=TP+TNTP+TN+FP+FN Accuracy = \frac{TP+TN}{TP+TN+FP+FN} Accuracy=TP+TN+FP+FNTP+TN - 精确率 ：
Precision=TPTP+FP Precision = \frac{TP}{TP+FP} Precision=TP+FPTP - 召回率 ：
Recall=TPTP+FN Recall = \frac{TP}{TP+FN} Recall=TP+FNTP - F1分数 ：
F1=2×Precision×RecallPrecision+Recall F1 = 2 \times \frac{Precision \times Recall}{Precision + Recall} F1=2×Precision+RecallPrecision×Recall - AUC：ROC曲线下面积。
- GRU更新公式 ：
zt=σ(Wz⋅[ht−1,xt]) z_t = \sigma(W_z \cdot [h_{t-1}, x_t]) zt=σ(Wz⋅[ht−1,xt])
rt=σ(Wr⋅[ht−1,xt]) r_t = \sigma(W_r \cdot [h_{t-1}, x_t]) rt=σ(Wr⋅[ht−1,xt])
h~t=tanh(W⋅[rt⊙ht−1,xt]) \tilde{h}t = \tanh(W \cdot [r_t \odot h{t-1}, x_t]) h~t=tanh(W⋅[rt⊙ht−1,xt])
ht=(1−zt)⊙ht−1+zt⊙h~t h_t = (1-z_t) \odot h_{t-1} + z_t \odot \tilde{h}_t ht=(1−zt)⊙ht−1+zt⊙h~t - 自注意力机制 ：
Attention(Q,K,V)=softmax(QKTdk)V Attention(Q,K,V) = softmax\left(\frac{QK^T}{\sqrt{d_k}}\right)V Attention(Q,K,V)=softmax(dk QKT)V
6. 参数设定
| 参数 | 说明 | 默认值 |
|---|---|---|
data_file |
数据文件路径 | data.xlsx |
train_ratio |
训练集比例 | 0.7 |
max_epochs |
最大迭代次数 | 100 |
mini_batch_size |
批大小 | 64 |
initial_learn_rate |
初始学习率 | 0.001 |
numHeads |
Transformer头数 | 4 |
numKeyChannels |
注意力键通道数 | 128 |
7. 运行环境
- 软件：MATLAB R2024b。
- 数据格式：Excel文件，最后一列为标签列。
8. 应用场景
- 故障诊断：工业设备多状态分类。
- 医疗诊断：基于多特征的患者分类。
- 学术研究：模型对比、特征工程验证、算法优化基准测试。