1. 监督学习(Supervised Learning)
监督学习是最常见的机器学习类型,模型通过已有的标注数据来学习输入与输出之间的映射关系。
分类(Classification):目标是将输入数据分配到一个离散的类别标签中。比如,垃圾邮件识别、图片分类、语音识别等。
常见算法:
逻辑回归(Logistic Regression)
支持向量机(SVM, Support Vector Machines)
决策树(Decision Tree)
随机森林(Random Forest)
K 最近邻(K-Nearest Neighbors, KNN)
朴素贝叶斯(Naive Bayes)
神经网络(Neural Networks)回归(Regression):目标是预测连续值。比如,房价预测、温度预测等。
常见算法:
线性回归(Linear Regression)
岭回归(Ridge Regression)
套索回归(Lasso Regression)
支持向量回归(SVR, Support Vector Regression)
2. 无监督学习(Unsupervised Learning)
无监督学习的目标是从没有标签的数据中找到数据的结构或模式。常用于聚类、降维等任务。
聚类(Clustering):将数据分组,使得同一组的数据彼此相似,而不同组之间的数据差异较大。比如,市场细分、用户行为分析等。
常见算法:
K-means
层次聚类(Hierarchical Clustering)
DBSCAN
高斯混合模型(Gaussian Mixture Model, GMM)降维(Dimensionality Reduction):通过减少数据的特征数量来简化数据,同时尽量保留数据的主要信息。常用于数据预处理或可视化。
常见算法:
主成分分析(PCA, Principal Component Analysis)
t-SNE(t-Distributed Stochastic Neighbor Embedding)
独立成分分析(ICA, Independent Component Analysis)
3. 半监督学习(Semi-supervised Learning)
半监督学习介于监督学习和无监督学习之间。它使用少量的标注数据和大量的未标注数据来训练模型,适用于标注数据稀缺但大量未标注数据可用的场景。
常见算法:
图半监督学习(Graph-based Semi-supervised Learning)
自监督学习(Self-supervised Learning)
4. 强化学习(Reinforcement Learning, RL)
强化学习是一种通过与环境交互并从中获取奖励信号来学习策略的算法。强化学习的目标是最大化长期奖励,适用于需要决策和规划的场景,比如游戏、机器人控制、自动驾驶等。
常见算法:
Q-learning
Deep Q Networks (DQN)
策略梯度(Policy Gradient)
深度强化学习(Deep Reinforcement Learning, DRL)
Proximal Policy Optimization (PPO)
5. 生成模型(Generative Models)
生成模型的目标是从数据中学习到如何生成新数据,通常用于数据增强、生成对抗网络等应用。
常见算法:
生成对抗网络(GAN, Generative Adversarial Networks)
变分自编码器(VAE, Variational Autoencoder)
贝叶斯网络(Bayesian Networks)
6. 自监督学习(Self-supervised Learning)
自监督学习是一种无监督学习的一种形式,它通过从数据本身生成标签进行训练。常见于自然语言处理(NLP)和计算机视觉(CV)任务。
常见应用:
语言模型(如 GPT, BERT)
图像特征学习
7. 集成学习(Ensemble Learning)
集成学习通过将多个模型的预测结果进行组合,来提高整体的性能。其基本思想是通过多个弱模型的组合,得到一个强模型。
常见算法:
随机森林(Random Forest)
AdaBoost
梯度提升树(Gradient Boosting Machines, GBM)
XGBoost
LightGBM
CatBoost