《机器学习》 DBSCAN算法 原理、参数解析、案例实现

目录

一、先看案例

1、对K-mean算法

1)优点:

2)缺点:

2、使用DBSCAN去分类

二、DBSCAN算法

1、什么是DBSCAN

2、实现过程

三、参数解析

1、用法

2、参数

[1)eps: 邻域的距离阈值](#1)eps: 邻域的距离阈值)

[2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值](#2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值)

3)metric:最近邻距离度量参数

4)algorithm:最近邻搜索算法参数

5)属性

四、案例实现

1、文件内容

2、代码实现

3、运行结果


一、先看案例

1、对K-mean算法

有一堆数据点,用K-mean聚类去分类,最终得到以下图形,其中小点点为数据点

按照肉眼去观察可以知道外围一圈为一个类别,中间的一团一团为另外的一个个类别,但是K-mean无法这么分类,此时就可以使用DBSCAN来分类

1)优点:

简单、快捷、适合常规

2)缺点:

k值难以确定、很难发现任意形状的簇

2、使用DBSCAN去分类

此时可以得到以下分类状态

二、DBSCAN算法

1、什么是DBSCAN

DBSCAN是一种密度聚类算法,用于发现数据集中的有意义的聚类和异常点。与传统的基于距离的聚类算法(如K-means)不同,DBSCAN是基于密度的带噪声的空间聚类应用算法,它是将簇定义为密度相连的点的最大集合,能够把具有足够高密度的区域划分为簇,并在噪声的空间数据集中发现任意形状的聚类

DBSCAN算法将样本点分为三类核心对象、边界对象和噪声点

核心对象是指样本点周围密度达到一定阈值的点

边界对象是指与核心对象相邻但密度不足以成为核心对象的点

噪声点是指既不是核心对象也不是边界对象的点。

例如下图:

2、实现过程

输入数据集 -> 指定半径 -> 指定密度阈值(半径范围内有制定个数以上的数据个数)

有上述几个数据点,随机 以A为核心对象,给定半径范围内,有3个数据点,首先第一个圈包围了A,其内有四个数据点,额外的三个点叫直接密度可达 ,这满足要求,继续分别对每个点进行划定上述范围及密度阈值,最终画到B点和C点,此时B点和C点指定范围内没有要求个数的点,所以不再继续扩散,那么B、C点就叫边界点 ,同一个簇内,除了直接密度可达点外,其余的叫密度可达点 ,而外面有一个划分不到的点N,叫离群点

三、参数解析

1、用法

python 复制代码
class sklearn.cluster.DBSCAN(eps=0.5, min_samples=5, metric='euclidean', metric_params=None, algorithm='auto', leaf_size=30, p=None, n_jobs=None)

2、参数

1)eps 邻域的距离阈值

默认值是0.5,一般需要通过在多组值里面选择一个合适的阈值。eps过大,则更多的点会落在核心对象的ϵϵ-邻域,此时我们的类别数可能会减少, 本来不应该是一类的样本也会被划为一类。反之则类别数可能会增大,本来是一类的样本却被划分开。

2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值

默认值是5. 一般需要通过在多组值里面选择一个合适的阈值。通常和eps一起调参。在eps一定的情况下,min_samples过大,则核心对象会过少,此时簇内部分本来是一类的样本可能会被标为噪音点,类别数也会变多。反之min_samples过小的话,则会产生大量的核心对象,可能会导致类别数过少。

****3)metric:****最近邻距离度量参数

可以使用的距离度量较多,一般来说DBSCAN使用默认的欧式距离(即p=2的闵可夫斯基距离)就可以满足我们的需求。可以使用的距离度量参数有:

a) 欧式距离 "euclidean":

b) 曼哈顿距离 "manhattan"

c) 切比雪夫距离"chebyshev"

4)******algorithm:******最近邻搜索算法参数

算法一共有三种,第一种是蛮力实现 ,第二种是KD树实现 ,第三种是球树实现 。对于这个参数,一共有4种可选输入,'brute '对应第一种蛮力实现,'kd_tree '对应第二种KD树实现,'ball_tree' 对应第三种的球树实现,**'auto'**则会在上面三种算法中做权衡,选择一个拟合最好的最优算法。

5)属性

Labels_: 每个点的分类标签。

四、案例实现

1、文件内容

2、代码实现

python 复制代码
import pandas as pd
from sklearn.cluster import DBSCAN
from sklearn import metrics

# 读取文件
beer = pd.read_table('data.txt',sep=' ',encoding='utf8',engine='python')
# 传入变量需要训练的四列数据
x = beer[['calories','sodium','alcohol','cost']]
# 建立一个空列表,用于存放下方for循环遍历的不同的聚类质量评分
scores = []
for i in range(1,10):
    labels = DBSCAN(eps=20,min_samples=i).fit(x).labels_  # 设置半径为20,最小样本点个数为i
    score = metrics.silhouette_score(x,labels)  # 输出聚类质量评分存入score
    scores.append(score)
k = scores.index(max(scores))+1  # 得到最优聚类质量评分对应的最小样本数

# dbscan聚类分析
# eps:半径,min_samples:最小密度,就是园内最少几个样本点
# labels 分类结果  自动分类,-1为离群点
db = DBSCAN(eps=20,min_samples=k).fit(x)  # 使用上述的最优k值进行训练
labels = db.labels_  # 打印数据对应类别标签

# 增加结果至原始数据框
beer['cluster_db'] = labels   # 将类别标签存入原始数据,新建一个列,列名为cluster_db
beer.sort_values('cluster_db')   # 对cluster_db中的值进行排序

score = metrics.silhouette_score(x,beer.cluster_db)   # 打印评估聚类质量的指标

3、运行结果

相关推荐
溟洵3 分钟前
【 C/C++ 算法】入门动态规划-----一维动态规划基础(以练代学式)
c语言·c++·算法
过河卒_zh15667668 分钟前
9.12AI简报丨腾讯投资AI游戏平台,B站开源AniSora V3
人工智能·算法·游戏·aigc·算法备案·生成合成类算法备案
补三补四15 分钟前
神经网络基本概念
人工智能·深度学习·神经网络
IT_陈寒18 分钟前
Spring Boot 3.2 新特性全解析:这5个性能优化点让你的应用提速50%!
前端·人工智能·后端
boonya19 分钟前
Java垃圾回收机制理论算法及使用
jvm·算法·gc·垃圾收集器·理论
愚润求学20 分钟前
【贪心算法】day9
c++·算法·leetcode·贪心算法
lingran__1 小时前
速通ACM省铜第二天 赋源码(Adjacent XOR和Arboris Contractio)
c++·算法
VR最前沿1 小时前
Xsens运动捕捉技术彻底改变了数字化运动方式,摆脱实验室局限,将生物力学引入现实
人工智能·科技
网易伏羲1 小时前
网易伏羲亮相Arm Unlocked 2025,携手Arm探索中国人工智能创新之路
人工智能·游戏ai·网易伏羲
寒月霜华1 小时前
机器学习ML-简介、数据获取、网页数据抓取
人工智能·机器学习