文章目录
- 零、机器学习的企业价值
- 一、基础概念
-
- [1. 机器学习定义](#1. 机器学习定义)
- [2. 学习类型](#2. 学习类型)
- [3. 学习范式](#3. 学习范式)
- 二、核心算法与技术
-
- [1. 监督学习](#1. 监督学习)
- [2. 无监督学习](#2. 无监督学习)
- [3. 模型评估与优化](#3. 模型评估与优化)
- 三、深度学习与神经网络
-
- [1. 神经网络基础](#1. 神经网络基础)
- [2. 深度学习框架](#2. 深度学习框架)
- [3. 应用场景](#3. 应用场景)
- 四、工具与实践
-
- [1. 数据处理](#1. 数据处理)
- [2. 模型部署](#2. 模型部署)
- [3. 机器学习的生态圈](#3. 机器学习的生态圈)
零、机器学习的企业价值
在企业或实际项目中，系统掌握的机器学习知识可从四个层面产生价值：
- 岗位与能力升级
- 数据分析师能够用监督、无监督算法发现业务规律；
- 数据科学家可设计端到端解决方案；
- 算法工程师能主导模型架构与部署。
- 典型业务落地场景
- 推荐系统：协同过滤、矩阵分解或深度学习模型为电商、内容平台实现个性化推荐。
- 计算机视觉：CNN 分类、目标检测（YOLO）用于质检、安防、医学影像分析。
- 自然语言处理：文本分类、机器翻译、对话机器人提升客户体验。
- 强化学习：游戏 AI、机器人路径规划、自动驾驶决策，通过与环境交互获得最优策略。
- 机器学习工程化流程
- 数据处理与特征工程：缺失值、异常值处理以及特征选择/提取是模型上线前的必经步骤，直接影响线上效果。
- 模型训练与评估：交叉验证、超参数调优、早停等技术保证模型在生产环境的鲁棒性。
- 模型部署：SavedModel、ONNX、Docker 容器化或云服务（SageMaker、AI Platform）将模型变为可调用服务，实现低停机更新。
- 监控与持续学习：线上日志采集、A/B 测试、重训练流水线，使模型随业务数据演进。
- 工具与框架实践
- Scikit-Learn：快速原型、特征工程、模型选择。
- TensorFlow / PyTorch：构建复杂神经网络，支持研究与生产。
- Keras：高层 API 提升开发效率。
- OpenAI Gym、PyBullet：模拟环境加速强化学习算法迭代。
一、基础概念
1. 机器学习定义
- 通过数据驱动让计算机自动学习规律，无需显式编程（Arthur Samuel）。
- 核心公式：程序通过经验（E）提升任务（T）性能（P）（Tom Mitchell）。
2. 学习类型
- 监督学习：从标注数据（如分类、回归）中学习映射关系（如垃圾邮件分类）。
- 无监督学习：从无标注数据中发现模式（如聚类、降维）。
- 强化学习：通过试错与环境交互学习最优策略（如游戏 AI）。
- 半监督/自监督学习：利用少量标注+大量未标注数据。
3. 学习范式
- 批量学习：一次性处理全部数据。
- 在线学习：实时更新模型（如流式数据处理）。
- 基于实例学习：存储实例并通过相似度匹配预测（如 KNN）。
- 基于模型学习：构建数学模型（如线性回归）。
二、核心算法与技术
1. 监督学习
- 分类算法
- 逻辑回归、支持向量机（SVM）、决策树、随机森林、梯度提升树（如 XGBoost）、神经网络。
- 多类分类需使用 Softmax 激活函数和交叉熵损失。
- 回归算法
- 线性回归、决策树回归、神经网络回归。
- 评估指标：均方误差（MSE）、 R 2 R^2 R2分数。
2. 无监督学习
- 聚类
- K-Means、DBSCAN、层次聚类。
- 评估指标：轮廓系数、Calinski-Harabasz 指数。
- 降维
- 主成分分析（PCA）、t-SNE、UMAP。
- 应用场景：可视化、特征提取。
3. 模型评估与优化
- 评估指标
- 分类：准确率、精确率、召回率、F1 分数、ROC-AUC。
- 回归：MSE、RMSE、MAE、 R 2 R^2 R2。
- 无监督：轮廓系数、DB 指数。
- 验证方法
- 留出法、K 折交叉验证、自助法（Bootstrap）。
- 过拟合与欠拟合的判断与处理。
- 超参数调优
- 网格搜索、随机搜索、贝叶斯优化。
- 学习曲线分析（偏差-方差分解）。
三、深度学习与神经网络
1. 神经网络基础
- 结构：输入层、隐藏层（ReLU/LeakyReLU 激活）、输出层（Softmax/Sigmoid）。
- 损失函数：交叉熵（分类）、均方误差（回归）、自定义损失。
- 优化器：SGD、Adam、RMSprop。
- 正则化：L1/L2 正则化、Dropout、Batch Normalization。
2. 深度学习框架
- TensorFlow/Keras：构建复杂模型（如 CNN、RNN）。
- PyTorch：动态计算图，适合研究。
- Scikit-Learn：传统机器学习算法集成。
3. 应用场景
- 计算机视觉：卷积神经网络（CNN）、图像分类（ResNet）、目标检测（YOLO）。
- 自然语言处理：循环神经网络（RNN）、LSTM、Transformer、BERT。
- 强化学习：Q-Learning、深度 Q 网络（DQN）、策略梯度。
四、工具与实践
1. 数据处理
- 数据预处理：缺失值处理、特征缩放（标准化/归一化）、编码分类变量（独热编码）。
- 特征工程：特征选择（方差阈值、互信息）、特征提取（PCA）。
2. 模型部署
- 模型保存与加载（.h5、.pb 格式）。
- 容器化部署（Docker）、云服务（AWS SageMaker、Google AI Platform）。
3. 机器学习的生态圈
- Python（及其标准库）------机器学习脚本和交互式开发的基础环境
- NumPy------提供多维数组与数学函数，是科学计算和机器学习算法的底层数据结构
- SciPy------基于 NumPy，实现优化、积分、线性代数等更复杂的科学计算功能
- Matplotlib------做图和可视化，帮助探索数据与展示结果
- Pandas------数据处理与分析，提供 DataFrame、Series 等结构化数据操作
- scikit-learn------机器学习核心库，涵盖分类、回归、聚类等传统算法及模型评估工具
这些库相互配合，构成了 Python 机器学习开发的"标配"环境。
在实际项目中，开发者往往还会根据需要引入其他生态工具（如用于深度学习的 TensorFlow、PyTorch，或用于数据管道的 Dask、Luigi 、以及Keras：高层 API，快速实验。）。