《机器学习》 DBSCAN算法 原理、参数解析、案例实现

目录

一、先看案例

1、对K-mean算法

1)优点:

2)缺点:

2、使用DBSCAN去分类

二、DBSCAN算法

1、什么是DBSCAN

2、实现过程

三、参数解析

1、用法

2、参数

[1)eps: 邻域的距离阈值](#1)eps: 邻域的距离阈值)

[2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值](#2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值)

3)metric:最近邻距离度量参数

4)algorithm:最近邻搜索算法参数

5)属性

四、案例实现

1、文件内容

2、代码实现

3、运行结果


一、先看案例

1、对K-mean算法

有一堆数据点,用K-mean聚类去分类,最终得到以下图形,其中小点点为数据点

按照肉眼去观察可以知道外围一圈为一个类别,中间的一团一团为另外的一个个类别,但是K-mean无法这么分类,此时就可以使用DBSCAN来分类

1)优点:

简单、快捷、适合常规

2)缺点:

k值难以确定、很难发现任意形状的簇

2、使用DBSCAN去分类

此时可以得到以下分类状态

二、DBSCAN算法

1、什么是DBSCAN

DBSCAN是一种密度聚类算法,用于发现数据集中的有意义的聚类和异常点。与传统的基于距离的聚类算法(如K-means)不同,DBSCAN是基于密度的带噪声的空间聚类应用算法,它是将簇定义为密度相连的点的最大集合,能够把具有足够高密度的区域划分为簇,并在噪声的空间数据集中发现任意形状的聚类

DBSCAN算法将样本点分为三类核心对象、边界对象和噪声点

核心对象是指样本点周围密度达到一定阈值的点

边界对象是指与核心对象相邻但密度不足以成为核心对象的点

噪声点是指既不是核心对象也不是边界对象的点。

例如下图:

2、实现过程

输入数据集 -> 指定半径 -> 指定密度阈值(半径范围内有制定个数以上的数据个数)

有上述几个数据点,随机 以A为核心对象,给定半径范围内,有3个数据点,首先第一个圈包围了A,其内有四个数据点,额外的三个点叫直接密度可达 ,这满足要求,继续分别对每个点进行划定上述范围及密度阈值,最终画到B点和C点,此时B点和C点指定范围内没有要求个数的点,所以不再继续扩散,那么B、C点就叫边界点 ,同一个簇内,除了直接密度可达点外,其余的叫密度可达点 ,而外面有一个划分不到的点N,叫离群点

三、参数解析

1、用法

python 复制代码
class sklearn.cluster.DBSCAN(eps=0.5, min_samples=5, metric='euclidean', metric_params=None, algorithm='auto', leaf_size=30, p=None, n_jobs=None)

2、参数

1)eps 邻域的距离阈值

默认值是0.5,一般需要通过在多组值里面选择一个合适的阈值。eps过大,则更多的点会落在核心对象的ϵϵ-邻域,此时我们的类别数可能会减少, 本来不应该是一类的样本也会被划为一类。反之则类别数可能会增大,本来是一类的样本却被划分开。

2)min_samples: 样本点要成为核心对象所需要的ϵϵ-邻域的样本数阈值

默认值是5. 一般需要通过在多组值里面选择一个合适的阈值。通常和eps一起调参。在eps一定的情况下,min_samples过大,则核心对象会过少,此时簇内部分本来是一类的样本可能会被标为噪音点,类别数也会变多。反之min_samples过小的话,则会产生大量的核心对象,可能会导致类别数过少。

****3)metric:****最近邻距离度量参数

可以使用的距离度量较多,一般来说DBSCAN使用默认的欧式距离(即p=2的闵可夫斯基距离)就可以满足我们的需求。可以使用的距离度量参数有:

a) 欧式距离 "euclidean":

b) 曼哈顿距离 "manhattan"

c) 切比雪夫距离"chebyshev"

4)******algorithm:******最近邻搜索算法参数

算法一共有三种,第一种是蛮力实现 ,第二种是KD树实现 ,第三种是球树实现 。对于这个参数,一共有4种可选输入,'brute '对应第一种蛮力实现,'kd_tree '对应第二种KD树实现,'ball_tree' 对应第三种的球树实现,**'auto'**则会在上面三种算法中做权衡,选择一个拟合最好的最优算法。

5)属性

Labels_: 每个点的分类标签。

四、案例实现

1、文件内容

2、代码实现

python 复制代码
import pandas as pd
from sklearn.cluster import DBSCAN
from sklearn import metrics

# 读取文件
beer = pd.read_table('data.txt',sep=' ',encoding='utf8',engine='python')
# 传入变量需要训练的四列数据
x = beer[['calories','sodium','alcohol','cost']]
# 建立一个空列表,用于存放下方for循环遍历的不同的聚类质量评分
scores = []
for i in range(1,10):
    labels = DBSCAN(eps=20,min_samples=i).fit(x).labels_  # 设置半径为20,最小样本点个数为i
    score = metrics.silhouette_score(x,labels)  # 输出聚类质量评分存入score
    scores.append(score)
k = scores.index(max(scores))+1  # 得到最优聚类质量评分对应的最小样本数

# dbscan聚类分析
# eps:半径,min_samples:最小密度,就是园内最少几个样本点
# labels 分类结果  自动分类,-1为离群点
db = DBSCAN(eps=20,min_samples=k).fit(x)  # 使用上述的最优k值进行训练
labels = db.labels_  # 打印数据对应类别标签

# 增加结果至原始数据框
beer['cluster_db'] = labels   # 将类别标签存入原始数据,新建一个列,列名为cluster_db
beer.sort_values('cluster_db')   # 对cluster_db中的值进行排序

score = metrics.silhouette_score(x,beer.cluster_db)   # 打印评估聚类质量的指标

3、运行结果

相关推荐
吃个糖糖8 分钟前
36 Opencv SURF 关键点检测
人工智能·opencv·计算机视觉
AI慧聚堂21 分钟前
自动化 + 人工智能:投标行业的未来是什么样的?
运维·人工智能·自动化
盛世隐者21 分钟前
【pytorch】循环神经网络
人工智能·pytorch
游是水里的游22 分钟前
【算法day19】回溯:分割与子集问题
算法
不想当程序猿_22 分钟前
【蓝桥杯每日一题】分糖果——DFS
c++·算法·蓝桥杯·深度优先
cdut_suye34 分钟前
Linux工具使用指南:从apt管理、gcc编译到makefile构建与gdb调试
java·linux·运维·服务器·c++·人工智能·python
南城花随雪。41 分钟前
单片机:实现FFT快速傅里叶变换算法(附带源码)
单片机·嵌入式硬件·算法
开发者每周简报1 小时前
微软的AI转型故事
人工智能·microsoft
dundunmm1 小时前
机器学习之scikit-learn(简称 sklearn)
python·算法·机器学习·scikit-learn·sklearn·分类算法
古希腊掌管学习的神1 小时前
[机器学习]sklearn入门指南(1)
人工智能·python·算法·机器学习·sklearn