机器学习---各算法比较

机器学习算法

线性回归

优点:简单;适用于大规模数据集。

缺点:无法处理非线性关系;对异常值敏感。

多项式回归

优点:捕捉特征和目标之间的非线性关系。

缺点:可能会过度拟合数据。

岭回归

优点:解决多重共线性问题;对异常值不敏感。

缺点:不适用于特征选择,所有特征都会被考虑。

Lasso回归

优点:解决多重共线性问题。

缺点:对于高维数据,可能会选择较少的特征。

弹性网络回归

优点:综合了岭回归和Lasso回归的优点 ;可以应对多重共线性和特征选择。

缺点:需要调整两个正则化参数。

逻辑回归

优点:用于二分类问题,广泛应用于分类任务。

缺点:仅适用于二分类问题;对于复杂的非线性问题效果可能不佳。

决策树回归

优点:能够处理非线性关系。

缺点:容易过拟合;对数据中的噪声敏感;模型不稳定。

Bagging

优点:降低了模型的方差,减少了过拟合风险;适用于大规模数据。

缺点:不适用于处理高度偏斜的类别分布。

随机森林回归

优点:降低了决策树回归的过拟合风险;能够处理高维数据。

缺点:。。。

AdaBoost

优点:能够处理高维数据和大规模特征,对异常值敏感性较低。

缺点:对噪声和异常值敏感。

Gradient Boosting

优点:提供了很高的预测性能,对噪声和异常值相对较稳定。

缺点:需要调整多个超参数。

XGBoost 和 LightGBM

优点:

缺点:

支持向量机

优点:适用于高维数据。

缺点:参数选择敏感。

相关推荐
QiLinkOS42 分钟前
第三视觉理解徐玉生与他的商业活动(28)
大数据·c++·人工智能·算法·开源协议
wabs6661 小时前
关于动态规划【力扣1143.最长公共子序列的思考】
算法·leetcode·动态规划
剑挑星河月2 小时前
54.螺旋矩阵
java·算法·leetcode·矩阵
星马梦缘2 小时前
机器学习与模式识别 第十六章 Transformers 模拟卷及答案
人工智能·机器学习·cnn·transformer·attention·注意力机制·mlp
Robot_Nav2 小时前
MPPI 局部规划器实验设计讲解
人工智能·算法·mppi
mingo_敏2 小时前
Mean-Teacher 均值教师自训练框架详解
算法·均值算法
xx_xxxxx_3 小时前
AI的工程基础1-最优化算法
人工智能·机器学习
星马梦缘3 小时前
机器学习与模式识别 第十三章 从线性模型到神经网络 考点压缩
人工智能·pytorch·神经网络·机器学习·激活函数·relu
星空露珠3 小时前
迷你世界UGc3.0脚本Wiki[剧情动画模块管理接口 Timeline]
开发语言·数据结构·算法·游戏·lua
笨笨没好名字3 小时前
Leetcode刷题python3版第一周(下)
linux·算法·leetcode