一、监督学习部分
线性回归模型
成本函数（定义 + 直觉）
成本函数可视化（示例）
逻辑回归（动机 + 决策边界）
逻辑回归成本函数（基础版 + 简化版）
#### 1.2 优化算法实践
梯度下降（原理 + 直觉 + 代码框架）
学习率（选择方法 + 影响分析）
线性回归的梯度下降（运行流程）
多重线性回归的梯度下降
高级优化算法（框架适配）
#### 1.3 特征工程与模型优化
多特征处理基础
特征缩放（原理 + PyTorch 适配）
特征工程（构建 + 筛选思路）
多项式回归（非线性场景适配）
向量化（计算效率优化 + PyTorch 实现框架）
#### 1.4 模型评估与问题解决
梯度下降收敛性检查
模型评估基础（指标 + 流程）
数据集划分（训练集 + 交叉验证集 + 测试集）
过拟合问题（成因 + 识别）
过拟合解决方案（正则化为主）
正则化应用（成本函数 + 线性回归 + 逻辑回归）
偏差与方差诊断（含神经网络场景）
学习曲线（绘制 + 分析思路）
模型迭代方向（下一步尝试策略）
错误分析（流程 + 方法）
数据增强与迁移学习（思路框架）
倾斜数据集评估（错误指标选择）
精确率与召回率（权衡方法）
#### 1.5 决策树与集成学习
决策树模型（结构 + 原理）
决策树学习过程（纯度测量 + 特征分割）
纯度指标（熵 + 基尼系数）
特征处理（分类特征独热编码 + 连续特征离散化）
回归树（适用场景 + 框架）
集成学习（多决策树融合思路）
随机森林（算法框架 + PyTorch 适配）
XGBoost（原理 + 应用场景）
决策树适用场景判断
二、深度学习部分
深度学习概述
神经元与神经网络层（结构 + 激活值计算）
神经网络工作原理与推理流程
#### 2.2 前向传播与推理
单层前向传播（流程 + 公式）
前向传播通用实现（框架思路）
推理过程（预测逻辑 + PyTorch 适配）
推理代码框架（eval 模式 + 无梯度计算）
#### 2.3 PyTorch 工具与高效实现
神经网络高效实现思路
矩阵乘法（规则 + PyTorch 代码框架）
PyTorch 数据处理（Tensor+Dataset+DataLoader）
#### 2.4 激活函数与多类别处理
激活函数（类型 + 选择依据 + 作用）
Sigmoid 替代方案（ReLU 系列等）
多类别分类（任务场景）
Softmax（原理 + 网络适配 + PyTorch 框架）
多输出分类（扩展场景）
#### 2.5 反向传播与训练优化
反向传播（原理 + PyTorch 自动求导适配）
训练细节（train 模式 + 优化器更新）
网络架构改进（思路方向）
训练策略优化（贪婪策略 + 小批量 + 软更新）
2.6 深度学习应用与伦理
典型应用（图像识别 + 需求预测 + 月球着陆器）
机器学习开发迭代循环（流程）
项目完整周期（管理思路）
AI 公平性、偏见与伦理（问题 + 应对方向）
AGI 发展路径（前沿讨论）
三、无监督学习 + 推荐系统 + 强化学习部分
无监督学习概述
聚类任务（定义 + 场景）
K 均值算法（原理 + 优化目标 + 初始化 + 聚类数选择）
异常检测（场景 + 高斯分布基础）
异常检测算法（流程 + 评估 + 与监督学习对比）
异常检测特征选择（思路）
#### 3.2 降维技术
特征降维概述
PCA 算法（原理 + 流程）
PCA PyTorch 实现框架
#### 3.3 推荐系统
推荐系统概述
核心方法（基于内容过滤 + 协同过滤）
数据处理（二进制标签 + 均值归一化）
推荐系统 PyTorch 实现框架（嵌入层 + 评分预测）
协同过滤与内容过滤对比
大规模推荐场景适配（思路）
推荐系统伦理（问题 + 应对）
#### 3.4 强化学习
强化学习概述（定义 + 火星探测器示例）
核心概念（回报 + 策略 + 状态 - 动作值函数）
贝尔曼方程（原理 + 应用）
环境建模（随机环境 + 连续状态空间）
状态值函数学习（PyTorch 适配框架）
强化学习算法改进（思路）
四、专项讨论与补充
自然语言处理（概述 + PyTorch 适配思路）
数学基础补充（导数 + 梯度与自动求导关联）
大规模神经网络（实现框架 + 分布式训练适配）