如何选择聚类算法、回归算法、分类算法?

如何选择聚类算法

  • 如果数据集是高维的 ------ 谱聚类,它是子空间划分的一种。
  • 如果数据是中小规模:
    100万以内 ------ K_Means
    100万以上 ------ MiniBatchKMeans(每类抽取一部分样本聚类,精度下降,速度提高)
  • 数据集中有噪声(离群点) ------ 基于密度的带有噪声的 DBSCAN 。
  • 如果追求更高的分类准确性,选择谱聚类比K_Means准确性更好。

如何选择回归分析算法

  • 数据集本身结构简单、分布规律有明显线性关系------简单线性回归,基于最小二乘法的普通线性回归。
  • 自变量数量少或降维后得到了二维变量(包括预测变量)------直接使用散点图,发现自变量和因变量之间的相互关系,然后再选择最佳回归方法
  • 自变量间有较强共线性关系------岭回归,L2正则化,对多重共线性灵活处理的方法
  • 如果噪声较多------推荐主成分回归,通过对参与回归的主成分的合理选择,可以去掉噪声;各个主成分相互正交,解决多元回归共线性问题。
  • 高维度变量下------正则化回归方法,Lasso、Ridge、ElasticNet。降维、逐步回归
  • 可使用交叉验证做多个模型的效果对比,验证多个算法
  • 注重模型的可解释性------ 线性回归、逻辑回归、对数回归、二项式或多项式回归
  • 集成或组合方法------加权、均值等方法确定最终输出结果(一旦确认来多个方法,又不确定取舍)

如何选择分类分析算法

  • 文本文类------朴素贝叶斯
  • 训练集较小------朴素贝叶斯、支持向量机,高偏差低方差低分类算法,不容易过拟合
  • 训练集较大------基本都适用
  • 关注模型等计算时间和模型易用性------不用支持向量机和人工神经网络
  • 重视算法准确性------支持向量机、GBDT、XGBoost、Adaboost等基于Boosting等集成方法
  • 重视算法稳定性或模型鲁棒性------随机森林、组合投票模型等基于Bagging的集成方法
  • 预得到预测结果的概率信息,基于预测概率做进一步应用------逻辑回归
  • 担心离群点或数据不可分并且需要清晰的决策规则------决策树
相关推荐
AvocadoZeroOneOI18 分钟前
B4500 [GESP202603 三级] 凯撒密码 详细解题报告
c++·算法
罗西的思考1 小时前
【轻量化复现大模型 / KIMI K3】训练模块梳理 & Muon P2P 优化器
人工智能·深度学习·机器学习
cjz38992 小时前
双指针技巧:覆盖式双指针(原地覆盖)
算法
伞伞悦读3 小时前
【第90期】KNN分类回归流水线与K值对照的实验与排查
大数据·人工智能·python·深度学习·机器学习
橘子136 小时前
【高级数据库】关系代数基本概念
算法
注塑机数据采集联网6 小时前
注塑机智能数据采集联网网关 ZK-D1/D3 如何读取力劲注塑机控制器数据并对接 MES/IOT 平台
大数据·网络·物联网·数据挖掘·注塑机网关
电科_银尘17 小时前
【大模型算法与工程 15】手写Self-Attention:Q、K、V与缩放点积
算法
翰墨之道19 小时前
AI日报:豆包工作ARR超20亿,GPT-6.2跑分与实测割裂
人工智能·gpt·数据挖掘
郝学胜-神的一滴20 小时前
Effective STL 条款03:容器中的对象复制要廉价且正确
开发语言·数据结构·c++·算法·rpc·stl
秋天的怀念_David20 小时前
算法一千零一夜 · 第三十三夜 · 跳表
java·程序人生·算法