机器学习预备知识


一、机器学习应用领域

1.1 推荐系统

  • 典型案例:移动 APP 推荐功能
  • 核心方法:基于用户行为数据的协同过滤与深度学习

1.2 计算机视觉

  • 应用场景:图像分类、目标检测
  • 关键技术:卷积神经网络(CNN)

1.3 博弈决策

  • 里程碑案例:AlphaGo 围棋系统
  • 核心技术:深度强化学习与蒙特卡洛树搜索

二、核心概念体系

2.1 概念关系图谱

人工智能 机器学习 深度学习 强化学习 神经网络

2.2 关键术语解析

  • 数据集结构
食材新鲜度 火候 烹饪技术 菜肴评价
新鲜 偏大 熟练 中等
不够新鲜 适中 一般
  • 任务类型
    • 监督学习:分类(离散值)、回归(连续值)
    • 无监督学习:聚类、降维

三、机器学习三要素

3.1 模型架构

F = { f ∣ Y = f ( X ) } 或 F = { P ∣ P ( Y ∣ X ) } \mathcal{F}=\{f\mid Y=f(X)\} \quad \text{或} \quad \mathcal{F}=\{P\mid P(Y\mid X)\} F={f∣Y=f(X)}或F={P∣P(Y∣X)}

3.2 优化策略

损失函数公式:
L = 1 N ∑ i = 1 N L ( y i , f ( x i ) ) + λ J ( f ) L = \frac{1}{N}\sum_{i=1}^N L(y_i, f(x_i)) + \lambda J(f) L=N1i=1∑NL(yi,f(xi))+λJ(f)

3.3 求解算法

  • 梯度下降法
  • 牛顿法
  • 拟牛顿法

四、性能评估体系

4.1 分类指标

混淆矩阵示例

预测正 预测负
实际正 TP=70 FN=25
实际负 FP=15 TN=50

核心指标

  • 准确率:
  • 精确率:
  • 召回率:

4.2 回归指标

指标 公式
MAE 1 n ∑ y i − y ^ i \frac{1}{n}\sum y_i-\hat{y}_i n1∑yi−y^i
MSE 1 n ∑ ( y i − y ^ i ) 2 \frac{1}{n}\sum(y_i-\hat{y}_i)^2 n1∑(yi−y^i)2
1 − S S r e s S S t o t 1-\frac{SS_{res}}{SS_{tot}} 1−SStotSSres

五、编程实践

5.1 NumPy 基础

python 复制代码
import numpy as np
arr = np.array([1,2,3])
print(arr.dtype)  # 输出:int32

5.2 sklearn 建模

python 复制代码
from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression

X, y = load_iris(return_X_y=True)
model = LogisticRegression().fit(X, y)
print(model.predict(X[:2]))  # 样本预测

六、实战练习

6.1 手动计算题

给定测试集与预测结果:

python 复制代码
y_test = [1,1,0,1,0,0,1,0,1,0,1,0,1,0,1,0,1,1,0,0,1,0,1,1,1,0,0,0,1,0]
y_pred = [1,0,1,1,0,1,1,0,1,0,0,0,1,0,1,0,1,1,0,1,1,1,1,1,1,0,1,0,1,1]

计算步骤

  1. 构建混淆矩阵
  2. 计算 Accuracy/Precision/Recall
  3. 推导 F 1 Score
  4. 估算 AUC 值

6.2 代码验证

python 复制代码
from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score, roc_auc_score

print(f"Accuracy: {accuracy_score(y_test, y_pred):.2f}")
print(f"AUC: {roc_auc_score(y_test, y_pred):.2f}")

七、延伸思考

  • 如何解决过拟合问题?
  • 特征工程对模型性能的影响
  • 不同优化算法的适用场景

附录 :机器学习发展历程时间轴

1950 s:图灵测试提出 → 1980 s:反向传播算法 → 2012:AlexNet 突破 → 2016:AlphaGo 里程碑


相关推荐
码上地球4 分钟前
卷积神经网络设计指南:从理论到实践的经验总结
人工智能·深度学习·cnn
余+1853816280028 分钟前
短视频矩阵系统文案创作功能开发实践,定制化开发
大数据·人工智能
MYH51632 分钟前
神经网络 隐藏层
人工智能·深度学习·神经网络
晊恦X.36 分钟前
第三章 k近邻法
人工智能
大笨象、小笨熊1 小时前
机器学习简介
人工智能·机器学习
速易达网络1 小时前
deepseek+coze开发的智能体页面
人工智能
[shenhonglei]2 小时前
早报精选 · 科技与产业趋势观察 | 2025年6月9日
人工智能
聚客AI2 小时前
系统掌握PyTorch:图解张量、Autograd、DataLoader、nn.Module与实战模型
人工智能·pytorch·python·rnn·神经网络·机器学习·自然语言处理
穆易青2 小时前
2025.06.09【读书笔记】|PromptBio:让生信分析更简单的AI平台
人工智能
音程2 小时前
矩阵和向量范数的区别分析
人工智能·线性代数·矩阵