机器学习(聚类算法)

一、K-means

1.基本概念

聚成多少个簇:需要指定K的值

距离的度量:一般采用欧式距离

距离:

曼哈顿距离:

欧式距离:

2.聚类效果的评价方式:轮廓系数

a(i):对于第i个元素xi,计算xi与其同一个簇内所有其他元素距离的平均值,表示了簇内的凝聚程度。

b(i):选取xi外的一个簇,计算xi与该簇内所有点距离的平均距离,遍历其他所有簇,取所有平均值中最小的一个,表示簇间的分离度。

计算所有x的轮廓系数,求出平均值即为当前聚类的整体轮廓系数。

轮廓系数的评价:

1.轮廓系数范围在-1,1之间。该值越大,越合理。

2.si接近1,则说明样本i聚类合理;

3.si接近-1,则说明样本i更应该分类到另外的簇;

4.若si近似为0,则说明样本i在两个簇的边界上。

3.K-means的API参数

class sklearn.cluster.KMeans (n_clusters=8 , init='kmeans++' , n_init=10 , max_iter=300 , tol=0.0001 , precompute_distances='auto' , verbose=0 , random_state=None , copy_x=True , n_jobs=None , algorithm='auto' )source

n_clusters: 类中心的个数,就是要聚成几类。【默认是8个】

init : 参初始化的方法,默认为'k-means++'

(1)'k-means++': 用一种特殊的方法选定初始质心从而能加速迭代过程的收敛.

(2) 'random': 随机从训练数据中选取初始质心。

(3) 如果传递的是一个ndarray,则应该形如 (n_clusters, n_features) 并给出初始质心。

4.优缺点

优点:简单,快速,适合常规的数据集。

缺点:1.K值难以确定。2.很难发现任意形状的簇。

二、DBSCAN

1.概念

基于密度的带噪声的空间聚类应用算法,它是将簇定义为密度相连的点的最大集合,能够把具有足够高密度的区域划分为簇,并在噪声的空间数据集中发现任意形状的聚类。

2.实现过程

1.输入数据集

2.指定半径

3.指定密度阈值

3.DBSCAN的API参数

class sklearn.cluster.DBSCAN (eps=0.5 , min_samples=5 , metric='euclidean' , metric_params=None , algorithm='auto' , leaf_size=30 , p=None , n_jobs=None )

eps: DBSCAN算法参数,即我们的ϵϵ-邻域的距离阈值,和样本距离超过ϵϵ的样本点不在ϵϵ-邻域内。默认值是0.5.一般需要通过在多组值里面选择一个合适的阈值。eps过大,则更多的点会落在核心对象的ϵϵ-邻域,此时我们的类别数可能会减少, 本来不应该是一类的样本也会被划为一类。反之则类别数可能会增大,本来是一类的样本却被划分开。

min_samples: DBSCAN算法参数,即样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值。默认值是5. 一般需要通过在多组值里面选择一个合适的阈值。通常和eps一起调参。在eps一定的情况下,min_samples过大,则核心对象会过少,此时簇内部分本来是一类的样本可能会被标为噪音点,类别数也会变多。反之min_samples过小的话,则会产生大量的核心对象,可能会导致类别数过少。

相关推荐
jktantan15 分钟前
每个节点 41 字节:把一棵百万节点树拆进 14 个 typed array
前端·javascript·vue.js·算法·typescript
揽星河..36 分钟前
【C语言】猜数字游戏
c语言·算法·游戏
Rocky Ding*1 小时前
深入浅出Xiaomi-Lens-0技术解析:像素监督如何改变视觉推理
论文阅读·人工智能·深度学习·机器学习·aigc·多模态·ai-native
LabVIEW开发1 小时前
CTM-3 红外测温仪 + LabVIEW 温度怎么测?
算法·labview·测试·labview程序
默|笙1 小时前
【AI应用】认识机器学习与深度学习
人工智能·深度学习·机器学习
纪念 2291 小时前
C++算法(六)
开发语言·c++·算法
forest_092 小时前
当 AI 搜索开始「自我进化」,谁来进化它的核实?——「已核实」结论复核器:3 条结论挖出 2 个洞(附可运行代码)
人工智能·python·机器学习·prompt·agi
Dumbness2 小时前
UIA 读微信群消息没有 id,怎么判断哪条是新的:后缀对齐在翻历史和撤回时整屏重报
python·算法
taka2 小时前
从 24x 到 141x:我用纯 Python 零依赖项目,扒开了 GPU 加速的性能黑洞
算法
UIU1143 小时前
P16237 [蓝桥杯 2026 省 B] 应急布线
数据结构·c++·算法·蓝桥杯