CAU数据挖掘 第五章 聚类问题

基本概念

性质:

应用:

划分聚类

k-means算法( 基于质心的技术)


优缺点

改进

k-medoids算法( 基于代表对象的技术)

PAM是 k-medoids算法 的算法之一

性能分析:

CLARA方法-大数据集合-取样

层次聚类算法

通过建树或者拆树的方法进行聚类

AGNES算法

由下而上的聚类

DIANA算法

如果要分出k个聚类,则每次从旧聚类(最开始的大聚类)中选出中心点进行聚类,选k - 1次

BIRCH算法

提取每个点的聚类特征( Clustering Feature, CF)建立聚类特征树( Clustering Feature Tree, CF树),通过树划分的叶子节点簇进行聚类,从而提高性能。

CF树:

注意,叶子结点是CF簇

如何建树:

如何分裂:

叶节点阈值(T)为3,则下图中叶节点分裂

内部节点阈值(L)为3,图中为4,发生分裂

密度聚类

只要邻近区域的密度( 对象或数据点的数目) 超过某个阀值, 就把它加到与之相近的聚类中。

也就是说, 对给定类中的每个数据点, 在一个给定范围的区域中必须至少包含某个数目的点。

DBSCAN

几个重要概念:



算法流程:

缺点:

  • 对参数敏感,设置不同的参数,聚类效果差异大
  • 只能发现密度相似的类

OPTICS算法

通过点排序识别聚类结构。

思想:计算一个点周围的点到这个点的可达距离,并进行排序,直到算完所有可以到达的点;再用没有计算的点计算周围可以到达的点的距离,如此重复直到所有点算完。

核心距离与可达距离

距离排序



将排序后的队列进行数据可视化:

DENCLUE算法: 影响函数

网格聚类

STING算法-统计信息网格

WaveCluster算法


流程:


模型聚类

模型聚类主要有两类: 统计学方法( EM和COBWEB算法) 和神经网络方法( SOM算法) 。

EM算法

COBWEB算法

SOM算法

模糊聚类

聚类估计

估计聚类趋势

霍普金斯统计量

即判断数据是否可聚类

计算原理:

可以看到当样本点与实际点距离很短,均匀点与实际点很远时,H偏大,数据集更又可能聚类。

确定簇数

简单的经验方法

肘方法

测定聚类质量

相关推荐
陆枫Larry15 分钟前
CPU 和 GPU 的核心区别与适用场景
人工智能
Aa998833424 分钟前
AI视觉检测设备厂家的技术选型框架——密封件和磁材的缺陷分类与光学成像原理
人工智能
吴佳浩27 分钟前
今天我们讲讲大模型的“核心”技术:蒸馏(Model Distillation)
人工智能·llm·agent
阿里云大数据AI技术27 分钟前
阿里云 ES AI 引擎版:面向 Agent 场景,为亿级租户、千亿规模向量设计的搜索引擎
人工智能·elasticsearch·agent
郭小铭31 分钟前
[开源] 做了一个本地优先的多 Agent 市场研究桌面:Evidence Loom
人工智能
星栈35 分钟前
翻完 Pi 源码:它和 Codex、Claude Code 有何不同
人工智能·agent
_Jimmy_1 小时前
AI应用开发工程师面试题库
人工智能·python·深度学习·机器学习·知识图谱
阿里云大数据AI技术1 小时前
FalconSeek 技术解析:阿里云 Elasticsearch 云原生内核如何让查询性能飙升600%
人工智能·elasticsearch
了不起的云计算V1 小时前
破局“Demo陷阱”:中国电子云以“新星”AI重构关键行业智能决策体系
人工智能·重构
Elastic 中国社区官方博客1 小时前
将你的 Grafana Kubernetes 仪表板迁移到 Elastic Observability:相同的 PromQL,30 倍更快的查询
大数据·人工智能·elasticsearch·搜索引擎·容器·kubernetes·grafana