【机器学习】——无监督学习:KMeans

文章目录

聚类

将未标记的样本自动划分成多个类簇(无标签数据)

  • 在销售领域,利用聚类分析对客户历史数据进行分析,对客户划分类别,刻画不同客户群体的特征,从而深入挖掘客户潜在需求,改善服务质量,增强客户黏性
  • 在医学领域,对图像进行分析,挖掘疾病的不同临床特征,辅助医生进行临床诊断。聚类算法被用于图像分割,把原始图像分成若干个特定的、具有独特性质的区域并提取目标
  • 在生物领域,将聚类算法用于推导动植物分类,以往对动植物的认知往往是基于外表和习性,应用聚类分析按照功能对基因聚类,获取不同种类物种之间的基因关联。

聚类目标:得到较高的簇内相似度和较低的簇间相似度,使得簇间的距离尽可能大,簇内样本与簇中心的距离尽可能小(簇内距离尽可能小,簇间距离尽可能大)

聚类得到的簇可以用聚类中心、簇大小、簇密度和簇描述等来表示

  1. 聚类中心是一个簇中所有样本点的均值(质心)
  2. 簇大小表示簇中所含样本的数量
  3. 簇密度表示簇中样本点的紧密程度
  4. 簇描述是簇中样本的业务特征

k-均值聚类是基于划分的聚类算法,计算样本点与类簇质心的距离,与类簇质心相近的样本点划分为同一类簇。k-均值通过样本间的距离来衡量它们之间的相似度,两个样本距离越远,则相似度越低,否则相似度越高

k-均值算法聚类步骤如下:

  • 首先选取𝑘个类簇(𝑘需要用户进行指定)的质心,通常是随机选取。
  • 对剩余的每个样本点,计算它们到各个质心的欧式距离,并将其归入到相互间距离最小的质心所在的簇。计算各个新簇的质心。
  • 在所有样本点都划分完毕后,根据划分情况重新计算各个簇的质心所在位置,然后迭代计算各个样本点到各簇质心的距离,对所有样本点重新进行划分。
  • 重复第(2)步和第(3)步, 直到迭代计算后,所有样本点的划分情况保持不变,此时说明k-均值算法已经得到了最优解,将运行结果返回

【【五分钟机器学习】物以类聚的Kmeans】

代码实现:

python 复制代码
#!/usr/bin/python
# -*- coding: utf-8 -*-

import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.cluster import KMeans
from sklearn.metrics import calinski_harabasz_score

plt.rcParams['font.sans-serif']=['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus']=False #用来正常显示负号

# 加载鸢尾花数据集
iris = datasets.load_iris()
X = iris.data

# 应用k-Means算法
kmeans = KMeans(n_clusters=3)  # 鸢尾花数据集有3个类别
kmeans.fit(X)
y_kmeans = kmeans.predict(X)
print(y_kmeans)
# #效果评估

# 计算Calinski-Harabasz分数
CH = calinski_harabasz_score(X, y_kmeans)
print('Calinski-Harabasz Score:', CH)

# 创建一个3D图形
fig = plt.figure(figsize=(10, 8))
ax = fig.add_subplot(111, projection='3d')

# 提取花瓣宽度、萼片长度、花瓣长度作为x、y、z轴
x = X[:, 2]  # 花瓣宽度
y = X[:, 0]  # 萼片长度
z = X[:, 3]  # 花瓣长度
# 绘制聚类结果
for i in range(3):
    ax.scatter(x[y_kmeans == i], y[y_kmeans == i], z[y_kmeans == i], label=f'Cluster {i}')

# 设置图形标题和轴标签
ax.set_xlabel('花瓣宽度')
ax.set_ylabel('萼片长度')
ax.set_zlabel('花瓣长度')
ax.set_title("鸢尾花数据K-Means聚类")
plt.legend()
plt.show()

# 创建一个3D图形
fig = plt.figure(figsize=(10, 8))
ax = fig.add_subplot(111, projection='3d')
Y=iris.target
# 绘制聚类结果
for i in range(3):
    ax.scatter(x[Y == i], y[Y == i], z[Y == i], label=f'Cluster {i}')

# 设置图形标题和轴标签
ax.set_xlabel('花瓣宽度')
ax.set_ylabel('萼片长度')
ax.set_zlabel('花瓣长度')
ax.set_title("鸢尾花数据")
plt.legend()
plt.show()

#可视化:

注意:

  1. 聚类确实能聚类成你想要的类别数量,但是每个类别标签是啥就不一定了,需要你自己定义或者指定。
  2. 聚类算法由于是非监督学习算法,所以衡量标准也不一样(没有标签数据了),自行百度吧。

练习案例:葡萄酒风格聚类

可视化:

聚类之后的可视化

原始数据可视化:

无监督学习虽然不要标签,但是效果没有监督学习好啊

相关推荐
boooo_hhh1 小时前
深度学习笔记16-VGG-16算法-Pytorch实现人脸识别
pytorch·深度学习·机器学习
陈无左耳、4 小时前
HarmonyOS学习第3天: 环境搭建开启鸿蒙开发新世界
学习·华为·harmonyos
柃歌5 小时前
【UCB CS 61B SP24】Lecture 7 - Lists 4: Arrays and Lists学习笔记
java·数据结构·笔记·学习·算法
柃歌5 小时前
【UCB CS 61B SP24】Lecture 4 - Lists 2: SLLists学习笔记
java·数据结构·笔记·学习·算法
虾球xz6 小时前
游戏引擎学习第115天
学习·游戏引擎
BUG 劝退师6 小时前
C语言预处理学习笔记
c语言·笔记·学习
WHATEVER_LEO7 小时前
【每日论文】Text-guided Sparse Voxel Pruning for Efficient 3D Visual Grounding
人工智能·深度学习·神经网络·算法·机器学习·自然语言处理
Chambor_mak7 小时前
stm32单片机个人学习笔记16(SPI通信协议)
stm32·单片机·学习
胖哥真不错7 小时前
Python实现GO鹅优化算法优化随机森林分类模型项目实战
python·机器学习·项目实战·go鹅优化算法·随机森林分类模型
电子科技圈7 小时前
在低功耗MCU上实现人工智能和机器学习
人工智能·经验分享·科技·嵌入式硬件·mcu·物联网·机器学习