随机森林Random Forest（RF）回归预测-MATLAB代码实现

Matlab神经网络深度学习2024-09-08 20:02

一、随机森林RF（代码获取：底部公众号）

随机森林（Random Forest，RF）是一种机器学习方法，常用于回归预测和分类任务。它通过构建多个决策树，并通过组合它们的预测结果来进行回归预测。下面是使用随机森林进行回归预测的一般步骤：

数据准备：准备用于回归预测的训练集和测试集数据。确保数据已经进行预处理，例如归一化或标准化。
构建随机森林：使用训练集数据构建随机森林模型。随机森林由多个决策树组成，每个决策树都是基于随机选择的样本和特征构建的。
特征选择：在每个决策树的节点分裂时，随机森林会从一个随机子集中选择特征。这有助于减少特征之间的相关性，并提高模型的泛化能力。
训练决策树：对于每个决策树，使用随机选择的样本和特征进行训练。决策树的训练过程通常使用递归分裂算法，根据特征的不纯度进行分裂。
预测：使用训练好的随机森林对测试集进行预测。对于回归预测，随机森林会将多个决策树的预测结果进行平均或加权平均，得到最终的预测值
评估模型：使用适当的评估指标（例如均方根误差）评估模型在测试集上的性能。这将帮助你了解模型的预测准确度。
调整和改进：根据评估结果，你可以调整随机森林的超参数，如决策树数量、最大深度等，以改进模型的性能。

随机森林具有良好的鲁棒性和泛化能力，并且能够处理高维数据和特征之间的复杂关系。它也可以用于特征重要性的评估，以帮助识别对回归预测具有重要影响的特征。

二、MATLAB仿真结果

（1）决策树数量特征重要性分析

（2）预测结果

（3）误差指标

（4）回归图

（5）误差直方图

三、关键代码展示（代码获取：下方公众号）

Matlab 复制代码

%%  数据归一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
[t_train, ps_output] = mapminmax(T_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input);

%%  转置
p_train = p_train'; 
p_test = p_test';
t_train = t_train'; 

%%  训练模型
trees = 100;                                      % 决策树数目
leaf  = 5;                                        % 最小叶子数
OOBPrediction = 'on';                             % 打开误差图
OOBPredictorImportance = 'on';                    % 计算特征重要性
Method = 'regression';                            % 分类还是回归
net = TreeBagger(trees, p_train, t_train, 'OOBPredictorImportance', OOBPredictorImportance,...
      'Method', Method, 'OOBPrediction', OOBPrediction, 'minleaf', leaf);
importance = net.OOBPermutedPredictorDeltaError;  % 重要性