MATLAB分类与判别模型算法: 快速近邻法(FastNN)分类程序【含Matlab源码 MX_005期】

算法思路介绍:

1. 数据准备阶段:

生成一个合成数据集 `X`,其中包含三个簇,每个簇分布在不同的区域。

定义聚类层数 `L` 和每个层次的子集数量 `l`。

2. 聚类阶段:

使用K均值聚类算法将初始数据集 `X` 分成 `l` 个簇。

对于每个簇,计算其中心点 `Mp` 和最大半径 `Rp`,以及每个点到中心点的距离 `D`。

对每个簇,存储其数据点 `Xp`,中心点 `Mp` 和半径 `Rp`。

3. 树搜索阶段:

选择一个待判定的样本 `x`。

初始化一个阈值 `B` 为正无穷,当前层数 `CurL` 为 1,以及节点指针 `p` 为 0。

进入主循环,直到所有节点都被搜索完毕:

在每一轮中,从当前节点的子节点中选择一个最有可能的节点,计算其与待判定样本的距离。

如果当前节点是叶子节点:

检查是否有更近的邻居点,更新最近邻距离 `B` 和最近邻点 `Xnn`。

如果当前节点不是叶子节点:

进入下一层,继续搜索。

4. 输出结果:

输出最近邻点 `Xnn` 和其索引。

主要步骤:

数据准备阶段:

  1. 生成合成数据集 `X`。

  2. 定义聚类层数 `L` 和每个层次的子集数量 `l`。

聚类阶段:

  1. 对数据集进行 K 均值聚类。

  2. 存储每个簇的数据点、中心点和半径。

树搜索阶段:

  1. 初始化参数,如待判定样本 `x`、阈值 `B`、当前层数 `CurL` 和节点指针 `p`。

  2. 在循环中,从当前节点的子节点中选择一个最有可能的节点。

  3. 如果当前节点是叶子节点,则检查是否有更近的邻居点。

  4. 如果当前节点不是叶子节点,则进入下一层继续搜索。

输出结果:

输出最近邻点 `Xnn` 和其索引。

部分代码(完整代码在最后):

Matlab 复制代码
% ---进行树搜索---
tic
x=randn(1,2);%待判样本
B=inf;CurL=1;p=0;TT=1;
while TT==1 %步骤2
    Xcurp=cell(1);
    CurTable=cell(l,1);
    CurPinT=zeros(l,1);
    Dx=zeros(l,1);
    RpCur=zeros(l,1);
    %当前节点的直接后继放入目录表   
    for i=1:l   
        CurTable(i,1)=Xp(i+p*l,1);
        CurPinT(i)=i+p*l;
        Dx(i)=norm(x-Mp(i+p*l,:))^2;
        RpCur(i)=Rp(i+p*l);
    end    
    
    while 1 %步骤3
        [rowT,colT]=size(CurTable);
        for i=1:rowT                   
            if Dx(i)>B+RpCur(i)+eps%从目录表中去掉当前节点p
                CurTable(i,:)=[];
                CurPinT(i)=[];
                Dx(i)=[];
                RpCur(i)=[];
                break;
            end
        end
        [CurRowT,CurColT]=size(CurTable);
        if CurRowT==0
           CurL=CurL-1;p=floor((p-1)/3);
           if CurL==0
              TT=0; break;  
           else
               %转步骤3
           end
        elseif CurRowT>0
            [Dxx,Dxind]=sort(Dx,'ascend');
            p1=CurPinT(Dxind(1));
            p=p1;
            %从当前目录表去掉p1
            for j=1:CurRowT
                if CurPinT(j)==p1
                    Xcurp(1,1)=CurTable(j,1);
                    CurTable(j,:)=[];
                    CurPinT(j)=[];
                    CurD=Dx(j);%记录D(x,Mp)
                    Dx(j)=[];
                    RpCur(j)=[];                    
                    break;
                end
            end
            if CurL==L
                XcurpMat=cell2mat(Xcurp);
                [CurpRow,CurpCol]=size(XcurpMat);
                CurpMean=Mp(p,:);
                for k=1:CurpRow
                    Dxi=norm((XcurpMat(k,:)-CurpMean))^2;
                    if CurD>Dxi+B+eps
                        
                    else
                        Dxxi=norm((x-XcurpMat(k,:)))^2;
                        if Dxxi<B+eps
                            B=Dxxi;Xnn=XcurpMat(k,:);
                        end
                    end
                end
            else
                CurL=CurL+1;
                break;
            end
        end
    end
end
B,Xnn,NN=find(X(:,1)==Xnn(1))
time1=toc

结果展示:

完整代码:MATLAB分类与判别模型算法: 快速近邻法(FastNN)分类程序

相关推荐
302wanger10 分钟前
分享一个工作习惯:整点看即时消息
算法
派大_星19 分钟前
基于 PyTorch 的 CNN 图片分类学习
pytorch·分类·cnn
洋不写bug2 小时前
排序(一)基础排序,插入|希尔|冒泡|直接选择排序详解
java·算法·排序算法·插入排序·冒泡排序·希尔排序·直接选择排序
牧羊人.3332 小时前
动手学深度学习 03 | 卷积神经网络实现手写数字识别
人工智能·深度学习·神经网络·算法·cnn
AgentMaster2 小时前
数据治理工具选型指南:一套可复用的四阶段决策框架
大数据·数据结构·人工智能·算法
liliangcsdn2 小时前
最终留出样本/样本外测试集-holdout解读
算法
爱敲代码的小黄3 小时前
机器学习入门:从数据、训练到业务决策
算法
数据知道3 小时前
哈希与密码存储——bcrypt、Argon2、盐值与彩虹表
网络·算法·安全·网络安全·密码学·哈希算法
haon11223 小时前
树模型在信贷风控怎么用——从决策树到 XGBoost
大数据·人工智能·算法·决策树·机器学习·数据挖掘
wordbaby3 小时前
BM25 是什么?手把手拆解搜索引擎的核心算法
人工智能·算法