无监督学习-K-means

1、 什么是无监督学习

  • 一家广告平台需要根据相似的人口学特征和购买习惯将美国人口分成不同的小组,以便广告客户可以通过有关联的广告接触到他们的目标客户。
  • Airbnb 需要将自己的房屋清单分组成不同的社区,以便用户能更轻松地查阅这些清单。
  • 一个数据科学团队需要降低一个大型数据集的维度的数量,以便简化建模和降低文件大小。

我们可以怎样最有用地对其进行归纳和分组?我们可以怎样以一种压缩格式有效地表征数据?这都是无监督学习的目标,之所以称之为无监督,是因为这是从无标签的数据开始学习的。

2、K-means原理

我们先来看一下一个K-means的聚类效果图

3、K-means聚类步骤

  • 1、随机设置K个 特征空间内的点作为初始的聚类中心
  • 2、计算其他每个点计算到K个中心的距离(欧式距离),之后选择距离最小的一个聚类中心点作为标记类别
  • 3、接着对着标记的聚类中心之后,重新计算出每个聚类的新中心点(类中每个点的平均值)
  • 4、如果计算得出的新中心点与原中心点一样 或者 新旧聚类中心的距离变化不大 或者 达到一定的迭代次数 ,那么结束,否则重新进行第二步过程
    我们以一张图来解释效果

4、K-meansAPI

  • sklearn.cluster.KMeans(n_clusters=8,init='k-means++')
    • k-means聚类
    • n_clusters:开始的聚类中心数量
    • init:初始化方法,默认为'k-means ++'
    • labels_:默认标记的类型,可以和真实值比较(不是值比较)

5、代码

python 复制代码
from sklearn.cluster import KMeans

km = KMeans(n_clusters=4)
km.fit(cust)
pre = km.predict(cust)

问题:如何去评估聚类的效果呢?

6、Kmeans性能评估指标

6.1 轮廓系数

注:对于每个点i 为已聚类数据中的样本 ,b_i 为i 到其它族群 的所有样本的距离最小值 ,a_i 为i 到本身簇距离平均值 。最终计算出所有的样本点的轮廓系数平均值

6.2、轮廓系数值分析

  • 分析过程(我们以一个蓝1点为例)

    • 1、计算出蓝1离本身族群所有点的距离的平均值a_i

    • 2、蓝1到其它两个族群的距离计算出平均值红平均,绿平均,取最小的那个距离作为b_i

    • 根据公式:极端值考虑:如果b_i >>a_i: 那么公式结果趋近于1;如果a_i>>>b_i: 那么公式结果趋近于-1

6.3 结论

  • 高内聚,低耦合,是衡量该指标优劣的重要参数,理解为,簇内的样本样本间距越小,簇间的距离越大,代表性能最好;
  • 如果b_i>>a_i:趋近于1效果越好, b_i<<a_i:趋近于-1,效果不好。
    轮廓系数的值是介于 [-1,1] ,越趋近于1代表内聚度和分离度都相对较优。
相关推荐
Aaron158823 分钟前
全频段 SDR干扰源模块解决方案(星链干扰、LORA无人机干扰)
人工智能·算法·fpga开发·硬件架构·硬件工程·无人机·信息与通信
AI科技星27 分钟前
全域数学·球面拓扑微扰标准系数η=0.01 应用详解(典籍正式版)
人工智能·算法·数学建模·数据挖掘·机器人
hans汉斯35 分钟前
力学研究|半主动变刚度吸振器设计及减振机理研究
学习·力学
逻辑君41 分钟前
物理学研究报告【20260001】
人工智能·算法
AI科技星1 小时前
算法联盟·全域数学公理体系下黑洞标量毛发与LVK引力波O4全维理论、求导、证明、计算、验证、分析
人工智能·线性代数·算法·架构·学习方法·量子计算
谙弆悕博士1 小时前
【附C语言源码】C语言 栈结构 实现及其扩展操作
c语言·开发语言·数据结构·算法·链表·指针·
YuanDaima20481 小时前
图论基础原理与题目说明
数据结构·人工智能·python·算法·图论·手撕代码
AI人工智能+电脑小能手1 小时前
【大白话说Java面试题 第53题】【JVM篇】第13题:JVM采用什么算法判断一个对象是否需要被回收?
java·jvm·算法·面试
小赵不会秃头1 小时前
数据结构Day 06:线性结构、库操作及 Makefile 完整学习笔记
java·linux·数据结构·算法·面试
風清掦1 小时前
【STM32学习笔记-13】PWR电源控制
笔记·stm32·学习