目录
[1.1 常用聚类要素的数据处理](#1.1 常用聚类要素的数据处理)
[1.1.1 总和标准化](#1.1.1 总和标准化)
[1.1.2 标准差标准化](#1.1.2 标准差标准化)
[1.1.3 极大值标准化](#1.1.3 极大值标准化)
[1.1.4 极差的标准化](#1.1.4 极差的标准化)
[1.2 分类](#1.2 分类)
[1.2.1 快速聚类法(K-均值聚类)](#1.2.1 快速聚类法(K-均值聚类))
[1.2.2 系统聚类法(分层聚类法)](#1.2.2 系统聚类法(分层聚类法))
[2.1 明式(Minkowski)距离](#2.1 明式(Minkowski)距离)
[2.2 马氏(Mahalanobis)距离](#2.2 马氏(Mahalanobis)距离)
[2.3 兰氏(Canberra)距离](#2.3 兰氏(Canberra)距离)
[3.1 最短距离法](#3.1 最短距离法)
[3.2 最长距离法](#3.2 最长距离法)
[3.3 中间距离法](#3.3 中间距离法)
[3.4 重心法](#3.4 重心法)
[3.5 类平均法](#3.5 类平均法)
[3.6 离差平方和法](#3.6 离差平方和法)
一、聚类分析概述
聚类分析根据一批样品的许多观测指标,按照一定的数学公式具体地计算一些样品或一些参数(指标)的相似程度,把相似的样品或指标归为一类,把不相似的归为一类。
在聚类分析中,聚类要素的选择是十分重要的,它直接影响分类结果的准确性和可靠性。而为了使不同量纲,不同取值范围的数据能够放在一起进行比较,在进行聚类分析之前,首先要对聚类要素进行数据处理。
1.1 常用聚类要素的数据处理
1.1.1 总和标准化
分别求出各聚类要素所对应的数据的总和,以各要素的数据除以该要素的数据的总和,即
![](https://img-blog.csdnimg.cn/08275847705b491584fe4dc3c9cba601.png)
这种标准化方法所得到的新数据满足
![](https://img-blog.csdnimg.cn/e9b43dd7d4464b67a80886349dd131c6.png)
1.1.2 标准差标准化
![](https://img-blog.csdnimg.cn/5003efe0fdc84904a7f9bed808f7990f.png)
由这种标准化方法所得到的新数据,各要素的平均值为0,标准差为1,即有
![](https://img-blog.csdnimg.cn/0a2e5f9e1ae84c1e9dbd1390b3e76994.png)
1.1.3 极大值标准化
![](https://img-blog.csdnimg.cn/5fb9c9a2dd86423a978083f679150bdf.png)
经过这种标准化所得的新数据,各要素的极大值为1,其余各数值小于1。
1.1.4 极差的标准化
![](https://img-blog.csdnimg.cn/85314e56a34b41c9ad896778dc5a1d3d.png)
经过这种标准化所得的新数据,各要素的极大值为1,极小值为0,其余的数值均在0与1之间。
1.2 分类
1.2.1 快速聚类法(K-均值聚类)
基本思想 :开始时按照一定方法选取一批凝聚点,然后让样本向最近的凝聚点聚类,形成初始分类,之后再按照最近距离原则修改不合理的分类,直到合理为止。
快速聚类过程是寻找初始分类的有效方法,采用的算法是最小化与类均值间距离平方和的标准迭代算法,其结果是高效率地生成大数据文件的不相交的分类
![](https://img-blog.csdnimg.cn/283bb673864440cea291631c334611af.png)
1.2.2 系统聚类法(分层聚类法)
系统聚类分析就是通过对变量的测量,将比较接近的样本找出来归为一类,进一步再将比较接近的类合并成为新的类,逐层合并直到最后合并成为一类。
系统聚类产生的结果不在聚类的开始,也不在聚类的最终,而是在其过程中。研究者将根据聚类过程适当截取聚类结论。
系统聚类的一般程序:
首先,不论是定量数据还是定性数据,都应确定分类统计量,用以测定样本之间的亲疏程度,主要通过样本之间的距离、样本间的相关系数来确定;
分类统计量:样本间的距离或相关系数。
其次,利用统计量将样品进行分类。
二、分类统计量距离
![](https://img-blog.csdnimg.cn/d50f59a9907143ebae490e598a5d3288.png)
![](https://img-blog.csdnimg.cn/42394f0d434c45cfb1462ba54c0243a1.png)
![](https://img-blog.csdnimg.cn/b46aeaa27a62425b841d5dc76d92f53c.png)
2.1 明式(Minkowski)距离
![](https://img-blog.csdnimg.cn/44d68c6aabe34fbcac802d8c7eb83e05.png)
![](https://img-blog.csdnimg.cn/a77b7972194646bf8feee80d7fd2a0b2.png)
2.2 马氏(Mahalanobis)距离
![](https://img-blog.csdnimg.cn/f63e2c6179b04c4393c13ebfdc7ce0dc.png)
![](https://img-blog.csdnimg.cn/91e3bbb16c0f42c3b29828e6deb699c7.png)
![](https://img-blog.csdnimg.cn/3ffbf6c0c1a04a8e8a6894aa4be87be5.png)
2.3 兰氏(Canberra)距离
![](https://img-blog.csdnimg.cn/da9f158652f943648c3b16966fedc304.png)
2.相关系数
![](https://img-blog.csdnimg.cn/1d14c169478b467787d90e39e6a3fee2.png)
三、常用的聚类方法
八种聚类计算距离的递推公式:最短距离法、最长距离法、中间距离法、重心法、类平均法、可变类平均法、可变法、离差平方和法
3.1 最短距离法
![](https://img-blog.csdnimg.cn/9ac936ba369e48fa9bd5f90d70db19ac.png)
![](https://img-blog.csdnimg.cn/700f2c31e58d45f7b583ede18e0dccfb.png)
步骤:
3.2 最长距离法
![](https://img-blog.csdnimg.cn/26d116b00f2d4ed2a907b217ea30cfd9.png)
![](https://img-blog.csdnimg.cn/1060addd87c9418e9b1c669296c83c99.png)
3.3 中间距离法
![](https://img-blog.csdnimg.cn/0e5c6c1d51ff4b76b1b58ef9d0eba5c9.png)
3.4 重心法
![](https://img-blog.csdnimg.cn/10c0dd88ec7f42ad9a57c390c6a1aafe.png)
![](https://img-blog.csdnimg.cn/d6708f2b349a41eead47d0a061142bf3.png)
3.5 类平均法
![](https://img-blog.csdnimg.cn/1876b1b98d5145b9a4786b7bba54c5b4.png)
![](https://img-blog.csdnimg.cn/a7fadbc09d204feea2e4534d45b8e9f8.png)
3.6 离差平方和法
![](https://img-blog.csdnimg.cn/db4d72341ab14b5ebec77d1eec603d4b.png)
![](https://img-blog.csdnimg.cn/90b9a86046ef45acb5c9cd96d1b798b5.png)
四、Matlab进行聚类
![](https://img-blog.csdnimg.cn/4cc5252e5e4449b98830fa3459e578a6.png)
![](https://img-blog.csdnimg.cn/ed4e52704f574de78cf29aa2ca9fb06d.png)
![](https://img-blog.csdnimg.cn/98caaa0607e446528eef5743b099ee2d.png)
![](https://img-blog.csdnimg.cn/cf64a1cd5d0749b6b2ddd8b2b5c341eb.png)
![](https://img-blog.csdnimg.cn/ea958167d34c4d6a82a042fa4c82eae3.png)
五、SPSS步骤
![](https://img-blog.csdnimg.cn/f377b8a82bcd48ec8b0718ca7d21c4d2.png)