机器学习算法概览

1. 监督学习(Supervised Learning)

监督学习是最常见的机器学习类型,模型通过已有的标注数据来学习输入与输出之间的映射关系。

分类(Classification):目标是将输入数据分配到一个离散的类别标签中。比如,垃圾邮件识别、图片分类、语音识别等。

常见算法:
逻辑回归(Logistic Regression)
支持向量机(SVM, Support Vector Machines)
决策树(Decision Tree)
随机森林(Random Forest)
K 最近邻(K-Nearest Neighbors, KNN)
朴素贝叶斯(Naive Bayes)
神经网络(Neural Networks)

回归(Regression):目标是预测连续值。比如,房价预测、温度预测等。

常见算法:
线性回归(Linear Regression)
岭回归(Ridge Regression)
套索回归(Lasso Regression)
支持向量回归(SVR, Support Vector Regression)

2. 无监督学习(Unsupervised Learning)

无监督学习的目标是从没有标签的数据中找到数据的结构或模式。常用于聚类、降维等任务。

聚类(Clustering):将数据分组,使得同一组的数据彼此相似,而不同组之间的数据差异较大。比如,市场细分、用户行为分析等。

常见算法:
K-means
层次聚类(Hierarchical Clustering)
DBSCAN
高斯混合模型(Gaussian Mixture Model, GMM)

降维(Dimensionality Reduction):通过减少数据的特征数量来简化数据,同时尽量保留数据的主要信息。常用于数据预处理或可视化。

常见算法:
主成分分析(PCA, Principal Component Analysis)
t-SNE(t-Distributed Stochastic Neighbor Embedding)
独立成分分析(ICA, Independent Component Analysis)

3. 半监督学习(Semi-supervised Learning)

半监督学习介于监督学习和无监督学习之间。它使用少量的标注数据和大量的未标注数据来训练模型,适用于标注数据稀缺但大量未标注数据可用的场景。

常见算法:
图半监督学习(Graph-based Semi-supervised Learning)
自监督学习(Self-supervised Learning)

4. 强化学习(Reinforcement Learning, RL)

强化学习是一种通过与环境交互并从中获取奖励信号来学习策略的算法。强化学习的目标是最大化长期奖励,适用于需要决策和规划的场景,比如游戏、机器人控制、自动驾驶等。

常见算法:
Q-learning
Deep Q Networks (DQN)
策略梯度(Policy Gradient)
深度强化学习(Deep Reinforcement Learning, DRL)
Proximal Policy Optimization (PPO)

5. 生成模型(Generative Models)

生成模型的目标是从数据中学习到如何生成新数据,通常用于数据增强、生成对抗网络等应用。

常见算法:
生成对抗网络(GAN, Generative Adversarial Networks)
变分自编码器(VAE, Variational Autoencoder)
贝叶斯网络(Bayesian Networks)

6. 自监督学习(Self-supervised Learning)

自监督学习是一种无监督学习的一种形式,它通过从数据本身生成标签进行训练。常见于自然语言处理(NLP)和计算机视觉(CV)任务。

常见应用:
语言模型(如 GPT, BERT)
图像特征学习

7. 集成学习(Ensemble Learning)

集成学习通过将多个模型的预测结果进行组合,来提高整体的性能。其基本思想是通过多个弱模型的组合,得到一个强模型。

常见算法:

随机森林(Random Forest)
AdaBoost
梯度提升树(Gradient Boosting Machines, GBM)
XGBoost
LightGBM
CatBoost

相关推荐
小小测试开发6 分钟前
PromptFoo 源码分析与工程实战:LLM 测试框架的架构与最佳实践
人工智能·架构
IT_陈寒10 分钟前
React的useEffect依赖项把我坑惨了
前端·人工智能·后端
dozenyaoyida15 分钟前
AI与大模型新闻日报 | 2026-07-22
人工智能·搜索引擎·新闻·gpt-5.6·claude fable5
GeekArch23 分钟前
第28讲:避坑——AI堆栈分配错误、栈溢出BUG
c语言·人工智能·stm32·mcu·学习·bug
ShallWeL34 分钟前
【机器学习】(23)—— 神经网络入门
人工智能·神经网络·机器学习
AI大模型-小雄36 分钟前
Codex 长任务总要重新开始?买 Credits 还是升级 ChatGPT Pro
人工智能·chatgpt·程序员·ai编程·codex·ai办公·chatgpt pro
吴佳浩41 分钟前
MCP:从原理、源码、实战到企业落地,一篇彻底讲透 AI 世界的标准协议
人工智能·agent·mcp
码农学院1 小时前
如何组建一支高效的GEO优化团队:角色、流程与工具选型
人工智能
来一碗刘肉面1 小时前
栈的应用(表达式求值)
数据结构·算法
2zcode2 小时前
项目文档:基于MATLAB的肺结节自动分割与评估系统的设计与实现
人工智能·计算机视觉·matlab