AI / 机器学习 / 深度学习，它们的关系、核心流程、算法、任务、训练逻辑。
将回归、神经网络、参数初始化，全都能串起来。 一、先把概念讲清楚（最重要） 1. 什么是人工智能（AI） AI = 让机器模拟人的智能行为感知、理解、推理、学习、决策、创造。它是一个超级大领域，机器学习只是其中实现智能的一种方法。 2. 什么是机器学习（ML） 机器学习 = 让机器从数据中自动学习规律，而不是人工写死规则 传统编程： 人写规则 + 数据 → 结果 机器学习： 数据 + 结果 → 机器自己学出规则（模型） 一句话：不用手动写if-else，让模型从数据里学规律。 3. 什么是深度学习（DL） 深度学习 = 用深度神经网络做机器学习 - 多层神经网络- 自动提取特征（不用人工造特征）- 是机器学习的一个子集、分支 4. 三者关系（必须背） 人工智能（最大） ⊃ 机器学习 ⊃ 深度学习（目前最火） 二、机器学习能做什么？（任务分类） 1. 监督学习（回归、分类） 有标签数据：输入x + 正确答案y模型学 x → y 的映射。 - 回归：预测连续值（房价、温度、销量、股价）- 分类：预测类别（猫狗、垃圾邮件、情感正负） 线性回归、逻辑回归、神经网络、CNN、Transformer 都属于监督学习。 2. 无监督学习 只有数据x，没有标签y让模型自己找结构。 - 聚类（K-Means）：把相似的放一起- 降维（PCA）：把高维变低维- 异常检测 3. 强化学习 智能体通过和环境互动、试错学习赢了奖励，输了惩罚。用在：AlphaGo、机器人、游戏AI、自动驾驶决策。 三、机器学习完整通用流程（所有模型都遵守） 1. 明确任务 回归，分类，聚类，预测。 2. 数据收集与预处理 - 收集数据（x, y）- 清洗：去噪、去缺失、去异常- 划分：训练集 / 验证集 / 测试集- 标准化 / 归一化（保证训练稳定） 3. 选择模型 线性回归、决策树、SVM、神经网络等 4. 定义损失函数 - 回归：MSE、MAE- 分类：交叉熵 5. 选择优化器 SGD、Adam等，用来更新参数 6. 训练（核心） 循环：前向传播 → 算损失 → 反向传播 → 更新参数 7. 评估模型 - 回归：MSE、RMSE、R²- 分类：准确率、精确率、召回率、F1 8. 推理部署 用训练好的模型预测新数据。 四、监督学习核心思想（你正在学的重点）模型\hat{y} = f(x; \theta - x：输入- θ：参数（w, b）- f：模型（线性/神经网络）- ŷ：预测 损失函数 衡量预测错多少：Loss = L(y, \hat{y}) 五、传统机器学习 vs 深度学习（关键区别） 传统机器学习（LR、SVM、树模型） - 层数浅- 需要人工设计特征- 数据量小也能用- 速度快、可解释性好 深度学习（神经网络） - 多层网络- 自动学特征（端到端）- 需要大量数据+算力- 拟合复杂能力极强- 图像、语音、NLP 主流 六、知识串 机器学习框架里：1. 一元/多元线性回归最简单的监督学习模型2. 损失函数监督学习的误差衡量，训练的核心3. 参数w、b初始化保证神经网络能正常学习4. 神经网络处理流程前向 → 损失 → 反向 → 更新= 机器学习训练过程5. 深层网络+ReLU更强的监督学习模型，拟合复杂数据现在路线：基础回归 → 损失 → 参数 → 网络 → 深度学习 七、总结- AI：让机器像人一样智能。- 机器学习：从数据自动学规则，是实现AI的主流方法。- 深度学习：用深度神经网络做机器学习，是目前最强大分支。- 机器学习核心：数据 → 模型 → 损失函数 → 优化器 → 训练（最小化损失）→ 预测。- 神经网络、梯度下降，都是机器学习的核心基础。