【机器学习】——无监督学习:KMeans

文章目录

聚类

将未标记的样本自动划分成多个类簇(无标签数据)

  • 在销售领域,利用聚类分析对客户历史数据进行分析,对客户划分类别,刻画不同客户群体的特征,从而深入挖掘客户潜在需求,改善服务质量,增强客户黏性
  • 在医学领域,对图像进行分析,挖掘疾病的不同临床特征,辅助医生进行临床诊断。聚类算法被用于图像分割,把原始图像分成若干个特定的、具有独特性质的区域并提取目标
  • 在生物领域,将聚类算法用于推导动植物分类,以往对动植物的认知往往是基于外表和习性,应用聚类分析按照功能对基因聚类,获取不同种类物种之间的基因关联。

聚类目标:得到较高的簇内相似度和较低的簇间相似度,使得簇间的距离尽可能大,簇内样本与簇中心的距离尽可能小(簇内距离尽可能小,簇间距离尽可能大)

聚类得到的簇可以用聚类中心、簇大小、簇密度和簇描述等来表示

  1. 聚类中心是一个簇中所有样本点的均值(质心)
  2. 簇大小表示簇中所含样本的数量
  3. 簇密度表示簇中样本点的紧密程度
  4. 簇描述是簇中样本的业务特征

k-均值聚类是基于划分的聚类算法,计算样本点与类簇质心的距离,与类簇质心相近的样本点划分为同一类簇。k-均值通过样本间的距离来衡量它们之间的相似度,两个样本距离越远,则相似度越低,否则相似度越高

k-均值算法聚类步骤如下:

  • 首先选取𝑘个类簇(𝑘需要用户进行指定)的质心,通常是随机选取。
  • 对剩余的每个样本点,计算它们到各个质心的欧式距离,并将其归入到相互间距离最小的质心所在的簇。计算各个新簇的质心。
  • 在所有样本点都划分完毕后,根据划分情况重新计算各个簇的质心所在位置,然后迭代计算各个样本点到各簇质心的距离,对所有样本点重新进行划分。
  • 重复第(2)步和第(3)步, 直到迭代计算后,所有样本点的划分情况保持不变,此时说明k-均值算法已经得到了最优解,将运行结果返回

【【五分钟机器学习】物以类聚的Kmeans】

代码实现:

python 复制代码
#!/usr/bin/python
# -*- coding: utf-8 -*-

import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.cluster import KMeans
from sklearn.metrics import calinski_harabasz_score

plt.rcParams['font.sans-serif']=['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus']=False #用来正常显示负号

# 加载鸢尾花数据集
iris = datasets.load_iris()
X = iris.data

# 应用k-Means算法
kmeans = KMeans(n_clusters=3)  # 鸢尾花数据集有3个类别
kmeans.fit(X)
y_kmeans = kmeans.predict(X)
print(y_kmeans)
# #效果评估

# 计算Calinski-Harabasz分数
CH = calinski_harabasz_score(X, y_kmeans)
print('Calinski-Harabasz Score:', CH)

# 创建一个3D图形
fig = plt.figure(figsize=(10, 8))
ax = fig.add_subplot(111, projection='3d')

# 提取花瓣宽度、萼片长度、花瓣长度作为x、y、z轴
x = X[:, 2]  # 花瓣宽度
y = X[:, 0]  # 萼片长度
z = X[:, 3]  # 花瓣长度
# 绘制聚类结果
for i in range(3):
    ax.scatter(x[y_kmeans == i], y[y_kmeans == i], z[y_kmeans == i], label=f'Cluster {i}')

# 设置图形标题和轴标签
ax.set_xlabel('花瓣宽度')
ax.set_ylabel('萼片长度')
ax.set_zlabel('花瓣长度')
ax.set_title("鸢尾花数据K-Means聚类")
plt.legend()
plt.show()

# 创建一个3D图形
fig = plt.figure(figsize=(10, 8))
ax = fig.add_subplot(111, projection='3d')
Y=iris.target
# 绘制聚类结果
for i in range(3):
    ax.scatter(x[Y == i], y[Y == i], z[Y == i], label=f'Cluster {i}')

# 设置图形标题和轴标签
ax.set_xlabel('花瓣宽度')
ax.set_ylabel('萼片长度')
ax.set_zlabel('花瓣长度')
ax.set_title("鸢尾花数据")
plt.legend()
plt.show()

#可视化:

注意:

  1. 聚类确实能聚类成你想要的类别数量,但是每个类别标签是啥就不一定了,需要你自己定义或者指定。
  2. 聚类算法由于是非监督学习算法,所以衡量标准也不一样(没有标签数据了),自行百度吧。

练习案例:葡萄酒风格聚类

可视化:

聚类之后的可视化

原始数据可视化:

无监督学习虽然不要标签,但是效果没有监督学习好啊

相关推荐
一隅论数智5 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
XiHongShi20165 天前
STM32F407 RTC定时器例程,建议保存
stm32·单片机·学习
爱吃苹果的日记本5 天前
离散数学第六课
学习·离散数学
猎头南楼5 天前
知识社区推荐系统实践:新用户冷启动与长短期兴趣建模的挑战 资深推荐算法工程师
人工智能·深度学习·算法·机器学习
高洁015 天前
未来三年,AI 落地的五个确定性判断一
人工智能·深度学习·机器学习·transformer·知识图谱
AI职业加油站5 天前
AI智能体应用工程师证书:政策红利下的职业新风口
大数据·运维·人工智能·学习·职场发展
旖旎夜光5 天前
力控面试题 01.01: 判定字符是否唯一(位运算) —— 题解
c++·学习·算法·leetcode·力控
奇思妙想聪明勤奋的小羊5 天前
DeepAgents第5章:子Agent 与上下文隔离—让 Agent学会委派
人工智能·python·学习·语言模型
霍霍的袁5 天前
【C++】map 和 set 的使用 | 从用法到底层
开发语言·c++·学习·visual studio