【MATLAB第96期】基于MATLAB的SVM(线性)、SVM(高斯)、决策树、KNN等机器学习算法回归及分类Boost集成学习模型(含不同模型权重)

【MATLAB第96期】基于MATLAB的SVM(线性)、SVM(高斯)、决策树、KNN等机器学习算法回归及分类Boost集成学习模型(含不同模型权重)

引言

文章使用Boost集成学习方法,对多个机器学习模型进行融合,并通过算法得到对应权重。

因暂时精力有限,仅展示了测试集预测结果,以及有限的机器学习算法模型,包括不同核函数的支持向量机svm(linear、gaussian)、不同NumNeighbors值的K邻近KNN算法以及决策树算法。

后期将不定期更新训练集预测效果、多种机器学习算法以及多种集成算法的结果。

一、分类预测

1、数据设置:

12特征变量,1因变量,4分类

clike 复制代码
%%  1.清空环境变量
warning off             % 关闭报警信息
close all               % 关闭开启的图窗
clear                   % 清空变量
clc                     % 清空命令行
%%  2.导入数据
res = xlsread('数据集C.xlsx');

%%  3.划分训练集和测试集
temp = randperm(357);

P_train = res(temp(1: 240), 1: 12)';
T_train = res(temp(1: 240), 13)';
M = size(P_train, 2);

P_test = res(temp(241: end), 1: 12)';
T_test = res(temp(241: end), 13)';
N = size(P_test, 2);

%%  4.数据归一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input );
t_train = T_train;
t_test  = T_test ;

2、训练学习器

Learner = {'SVM(线性)', 'SVM(高斯)', 'KNN(1)', 'KNN(2)', 'KNN(3)', '决策树'}

3、集成结果

二、回归预测

1、数据设置:

7特征变量,1因变量

clike 复制代码
%%  1.清空环境变量
warning off             % 关闭报警信息
close all               % 关闭开启的图窗
clear                   % 清空变量
clc                     % 清空命令行

%%  2.导入数据
res = xlsread('数据集.xlsx');

%%  3.划分训练集和测试集
temp = randperm(103);

P_train = res(temp(1: 80), 1: 7)';
T_train = res(temp(1: 80), 8)';
M = size(P_train, 2);

P_test = res(temp(81: end), 1: 7)';
T_test = res(temp(81: end), 8)';
N = size(P_test, 2);

%%  4.数据归一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input);

[t_train, ps_output] = mapminmax(T_train, 0, 1);
t_test = mapminmax('apply', T_test, ps_output);

2、训练学习器

Learner = {'SVM(线性)', 'SVM(高斯)', '决策树'};

3、集成结果

三、代码获取

1.阅读首页置顶文章

2.关注CSDN

3.根据自动回复消息,回复"96期"以及相应指令,即可获取对应下载方式。

相关推荐
AI小云1 天前
【机器学习与实战】回归分析与预测:线性回归-03-损失函数与梯度下降
机器学习
L.fountain2 天前
机器学习shap分析案例
人工智能·机器学习
weixin_429630262 天前
机器学习-第一章
人工智能·机器学习
Cedric11132 天前
机器学习中的距离总结
人工智能·机器学习
寒月霜华2 天前
机器学习-数据标注
人工智能·机器学习
Godspeed Zhao2 天前
自动驾驶中的传感器技术46——Radar(7)
人工智能·机器学习·自动驾驶
limengshi1383922 天前
机器学习面试:请介绍几种常用的学习率衰减方式
人工智能·学习·机器学习
救救孩子把2 天前
2-机器学习与大模型开发数学教程-第0章 预备知识-0-2 数列与级数(收敛性、幂级数)
人工智能·数学·机器学习
蒋星熠2 天前
如何在Anaconda中配置你的CUDA & Pytorch & cuNN环境(2025最新教程)
开发语言·人工智能·pytorch·python·深度学习·机器学习·ai
Hcoco_me2 天前
什么是机器学习?
人工智能·机器学习