机器学习算法概览

1. 监督学习(Supervised Learning)

监督学习是最常见的机器学习类型,模型通过已有的标注数据来学习输入与输出之间的映射关系。

分类(Classification):目标是将输入数据分配到一个离散的类别标签中。比如,垃圾邮件识别、图片分类、语音识别等。

常见算法:
逻辑回归(Logistic Regression)
支持向量机(SVM, Support Vector Machines)
决策树(Decision Tree)
随机森林(Random Forest)
K 最近邻(K-Nearest Neighbors, KNN)
朴素贝叶斯(Naive Bayes)
神经网络(Neural Networks)

回归(Regression):目标是预测连续值。比如,房价预测、温度预测等。

常见算法:
线性回归(Linear Regression)
岭回归(Ridge Regression)
套索回归(Lasso Regression)
支持向量回归(SVR, Support Vector Regression)

2. 无监督学习(Unsupervised Learning)

无监督学习的目标是从没有标签的数据中找到数据的结构或模式。常用于聚类、降维等任务。

聚类(Clustering):将数据分组,使得同一组的数据彼此相似,而不同组之间的数据差异较大。比如,市场细分、用户行为分析等。

常见算法:
K-means
层次聚类(Hierarchical Clustering)
DBSCAN
高斯混合模型(Gaussian Mixture Model, GMM)

降维(Dimensionality Reduction):通过减少数据的特征数量来简化数据,同时尽量保留数据的主要信息。常用于数据预处理或可视化。

常见算法:
主成分分析(PCA, Principal Component Analysis)
t-SNE(t-Distributed Stochastic Neighbor Embedding)
独立成分分析(ICA, Independent Component Analysis)

3. 半监督学习(Semi-supervised Learning)

半监督学习介于监督学习和无监督学习之间。它使用少量的标注数据和大量的未标注数据来训练模型,适用于标注数据稀缺但大量未标注数据可用的场景。

常见算法:
图半监督学习(Graph-based Semi-supervised Learning)
自监督学习(Self-supervised Learning)

4. 强化学习(Reinforcement Learning, RL)

强化学习是一种通过与环境交互并从中获取奖励信号来学习策略的算法。强化学习的目标是最大化长期奖励,适用于需要决策和规划的场景,比如游戏、机器人控制、自动驾驶等。

常见算法:
Q-learning
Deep Q Networks (DQN)
策略梯度(Policy Gradient)
深度强化学习(Deep Reinforcement Learning, DRL)
Proximal Policy Optimization (PPO)

5. 生成模型(Generative Models)

生成模型的目标是从数据中学习到如何生成新数据,通常用于数据增强、生成对抗网络等应用。

常见算法:
生成对抗网络(GAN, Generative Adversarial Networks)
变分自编码器(VAE, Variational Autoencoder)
贝叶斯网络(Bayesian Networks)

6. 自监督学习(Self-supervised Learning)

自监督学习是一种无监督学习的一种形式,它通过从数据本身生成标签进行训练。常见于自然语言处理(NLP)和计算机视觉(CV)任务。

常见应用:
语言模型(如 GPT, BERT)
图像特征学习

7. 集成学习(Ensemble Learning)

集成学习通过将多个模型的预测结果进行组合,来提高整体的性能。其基本思想是通过多个弱模型的组合,得到一个强模型。

常见算法:

随机森林(Random Forest)
AdaBoost
梯度提升树(Gradient Boosting Machines, GBM)
XGBoost
LightGBM
CatBoost

相关推荐
会飞锦鲤5 分钟前
基于 SVM + HOG 的铸造缺陷检测系统
python·opencv·机器学习·计算机视觉·缺陷检测·图像分类·svm
爱喝雪碧的可乐11 分钟前
MATLAB
开发语言·算法·matlab
叼烟扛炮40 分钟前
Linux 学习笔记(六十):单线程的逆袭——epoll 高并发服务器实战
linux·服务器·网络·笔记·学习·算法
神鹰手哥_起飞版1 小时前
深度研判任务里,开思考、换更强的模型、套方法论,哪个更有用?
人工智能
ObserverX211 小时前
我是如何用 13KB 纯 Python,发现本地 RAG 的“隐式递归记忆”的
人工智能
Jason_gao9991 小时前
Github Copilot 新手极速上手指南
人工智能·github·copilot
用户360055579001 小时前
Kestrel_VLLM - 35 · 把 m 循环搬进内核:一次「先量发射、再合并发射」的完整回合
人工智能
Linye1 小时前
为什么让 AI 修个小 Bug 却把底层全重写了?聊聊 Coding Agent 的最小修改边界
人工智能·架构
深度开源1 小时前
我扫了自己电脑里的 402 个 AI 技能,光目录就吃掉 4.5 万 token
人工智能
skywalk81631 小时前
hive 常驻集群:像 OSPF 一样在线,像 git 一样可信
运维·人工智能·hive