无监督学习中的经典聚类算法——K-Means笔记

一、无监督学习中的经典聚类算法------K-Means

  • 目的:在没有标签的情况下,把"相似样本"自动分到同一组,用于数据探索、分群、压缩、异常检测等场景

二、核心概念

  1. 聚类(Clustering)

    -- 无监督:没有 y 标签

    -- 目标:高内聚、低耦合

  2. 难点

    -- 如何评估好坏?

    -- 如何选取参数(主要是 K)?

三、距离度量(先选"像不像"的尺子)

  • 欧式距离(L2):多维直线距离,最常用

  • 曼哈顿距离(L1):坐标轴绝对轴距之和,适合高维稀疏

四、K-Means 算法流程("三步走")

  1. 随机选 K 个初始中心

  2. 分配:每个样本→距其最近的中心所属簇

  3. 更新:重新计算各簇中心(均值)

    循环 2-3 步直到中心不再移动或达到 max_iter

五、评估指标

  • SSE(类内平方和):越小越紧凑

  • CH 指数:同时衡量类内紧密度与类间分离度,越大越好

  • 轮廓系数(Silhouette):-1,1,>0.5 通常可接受

六、优缺点速记

优点:

✓ 原理简单、实现容易、速度快、可并行

缺点:

✗ K 值需事先给定

✗ 对初值敏感(随机初始中心)

✗ 只能发现"球形"簇,对任意形状、密度差异大数据表现差

✗ 对异常值/噪声敏感

七、关键超参数

  • n_clusters(K):簇的数量

  • max_iter:最大迭代次数

  • n_init:随机运行次数,取最好结果

  • random_state:随机种子,复现实验

相关推荐
silvamux_10 小时前
10款模型写种草笔记:可发布性、返工来源与成本数据缺口复盘
java·数据库·笔记
蒸蒸yyyyzwd11 小时前
kafka、redis、mysql不熟悉问题总结
笔记·八股
hgy896911 小时前
深度学习(小白笔记)——迁徙
人工智能·笔记·深度学习
摇滚侠11 小时前
《On Java 中文版 基础卷》阅读笔记 实现隐藏 11
java·笔记·python
前进的李工14 小时前
Agent 学习笔记 02:Harness 与工作流怎么理解
笔记·学习·agent·工作流·harness
海鸥-w16 小时前
数据库冗余字段设计笔记
java·数据库·笔记·oracle
滴啦嘟啦哒16 小时前
【具身笔记】【原理探究】一、对PI05源码的实践笔记
笔记·python·vla·具身
览讯冷却18 小时前
冷却塔噪声的健康危害与法规要求的技术梳理
经验分享·笔记·科技·其他·百度·制造·业界资讯
Dory_Youth18 小时前
电脑的搜索功能不能用,一搜就黑屏闪退
运维·笔记
bessyon19 小时前
信息熵减与医疗交付:以3D检测与设备溯源为例
笔记