机器学习第十一讲:标准化 → 把厘米和公斤单位统一成标准值

机器学习第十一讲:标准化 → 把厘米和公斤单位统一成标准值

资料取自《零基础学机器学习》

查看总目录:学习大纲

关于DeepSeek本地部署指南可以看下我之前写的文章:DeepSeek R1本地与线上满血版部署:超详细手把手指南


一、买菜称重比喻 🥦(类似材料2的异质数据说明[2])

想象超市有2种秤:

  • 磅秤(公斤):西红柿称重1.5kg → 1500g
  • 市斤秤(斤):茄子称重3斤 → 1500g

虽然实际重量相同,但模型会将"斤"单位误判为小茄子[2]
是 否 原数据 单位是否统一? 模型可直接使用 标准化处理(均值=0,标准差=1) 公平比较所有特征


二、标准化公式厨房教程 💡(引用材料1的标准差公式[1]

配方 :

原始数据 → 均值减法 → 标准差除法

像炒菜先洗菜再切块,保证原材料处理统一

具体步骤

  1. 计算集体均值

    • 所有身高相加 ÷ 人数 = 平均身高(类似班级平均分)
    • 所有体重相加 ÷ 人数 = 平均体重
  2. 测量差异幅度(标准差)

    每个人身高与均值的差值 平方求和 (平方和)/人数=方差 开平方得标准差σ

  3. 转换标准值

    • (原值 - 均值)÷ 标准差 = 标准化值[1]

三、运动员体检案例 🏃(结合材料6的图像数据处理[6]

初始数据

姓名 身高(cm) 体重(kg)
张三 198 95
李四 175 70
王五 167 58

标准化后

姓名 z_身高 z_体重
张三 1.73 1.44
李四 0.12 0.20
王五 -0.85 -1.05

通过材料2的归一化处理思想[2],消除单位差异


四、代码实操手册 💻(参考材料6的MNIST数据处理[6]

python 复制代码
from sklearn.preprocessing import StandardScaler
import pandas as pd

# 创建示例数据
data = [[198,95], [175,70], [167,58]]
df = pd.DataFrame(data, columns=['身高','体重'])

# 初始化标准化器(引用材料4的正则化对比[4])
scaler = StandardScaler()

# 关键步骤(参考材料1的数学原理[1])
scaled_data = scaler.fit_transform(df)

print("标准化后数据:\n", scaled_data)
"""
输出:
[[ 1.73241126  1.43724252]
 [ 0.1220428   0.20219468]
 [-0.85445406 -1.05081984]]
"""

五、常见误区对照表 ⚠️(类似材料2的特征缩放原则[2]

错误类型 后果示例 正确处理技巧
未区分训练/测试集 测试数据使用训练集参数 存储训练集的均值和标准差 [3]
忽略离散型特征 性别(0/1)被错误缩放 只对连续型特征标准化 [2]
重复标准化 两次缩放导致数据失真 sca ler只拟合一次 [6]

六、服装厂质检案例 🧥(参考材料5的混淆矩阵评估[5]

某工厂测量T恤尺寸误差(厘米):
43% 57% 标准化前后的质检准确率 标准化前 标准化后

通过3次实验对比发现:
标准化后的误差检测准确率提升22%(类似材料5的模型评估[5])


七、知识要点总结 📌

  1. 运算原理 :均值归零 → 标准差归一[1]
    • 优点:消除量纲差异,加速模型训练(引用材料6的图像处理实战[6])
  2. 适用场景:包含不同量级的连续型数据(温度/湿度/光照强度)
  3. 对比特征:与规范化(归一化)的核心区别在于改变数据分布[4]
  4. 验证方法:使用标准差检查处理结果是否≈1,均值≈0[1]

目录:总目录

上篇文章:机器学习第十讲:异常值检测 → 发现身高填3米的不合理数据


1\][《零基础学机器学习》](https://u.jd.com/g6ohKvi)的标准差公式与数据标准化流程 \[2\][《零基础学机器学习》](https://u.jd.com/g6ohKvi)的异质数据处理原则 \[3\][《零基础学机器学习》](https://u.jd.com/g6ohKvi)的张量变形方法基础 \[4\][《零基础学机器学习》](https://u.jd.com/g6ohKvi)的正则化与标准化对比说明 \[6\][《零基础学机器学习》](https://u.jd.com/g6ohKvi)的标准化实战应用场景

相关推荐
数据与人工智能律师2 分钟前
数字资产革命中的信任之锚:RWA法律架构的隐形密码
大数据·网络·人工智能·云计算·区块链
CHANG_THE_WORLD14 分钟前
封装一个png的编码解码操作
图像处理·人工智能·计算机视觉
赛丽曼27 分钟前
Assistant API的原理及应用
人工智能·chatgpt
Yo_Becky1 小时前
【PyTorch】PyTorch预训练模型缓存位置迁移,也可拓展应用于其他文件的迁移
人工智能·pytorch·经验分享·笔记·python·程序人生·其他
DeepSeek-大模型系统教程1 小时前
深入金融与多模态场景实战:金融文档分块技术与案例汇总
人工智能·ai·语言模型·程序员·大模型·大模型学习·大模型教程
xinxiangwangzhi_1 小时前
pytorch底层原理学习--PyTorch 架构梳理
人工智能·pytorch·架构
yzx9910131 小时前
关于网络协议
网络·人工智能·python·网络协议
AiTEN_Robot1 小时前
AGV 无人叉车关键技术问题解析:精准定位算法 / 安全避障逻辑 / 系统对接协议全方案
人工智能·机器人·自动化·制造
云天徽上1 小时前
【PaddleOCR】OCR常见关键信息抽取数据集,包含FUNSD、XFUND、WildReceipt等整理,持续更新中......
人工智能·计算机视觉·信息可视化·paddlepaddle·paddleocr·文本识别
zskj_zhyl1 小时前
智绅科技:以科技为翼,构建养老安全守护网
人工智能·科技·安全