机器学习 —— KNN算法（模型算法）

KNN算法思想

若一个样本在特征空间中的K个最相似的样本大多数术语某一个类别，则该样本也属于这个类别。

解决问题：

KNN算法既能解决分类（多数表决）问题，也能解决回归（计算平均值）问题

1.分类问题

（有监督）-> 有特征，有标签标签是离散的如：猫狗猪

<1> 算距离

<2> 升序排列

<3> 分类（多数表决）如（1,1,1,1,0,0,0,1,1,1）则值就是1

<4> 如果多数属于这个类别，未知样本也属于这个类别

2.回归问题

（有监督）-> 有特征，有标签，标签是连续的如：房价-> 100万、50万、300万...

<1> 算距离

<2> 升序排列

<3> 回归（计算平均值）如（10,20,30,40,50,60,70,80,90,100）则值就是55

python 复制代码

from sklearn.neighbors import KNeighborsClassifier,KNeighborsRegressor    #分类、回归

#1.创建模型（算法）对象  分类
model1 = KNeighborsClassifier(n_neighbors=3) #离你最近的N个 这里是3个邻居

#2.准备训练集  二维的
x1_train = [[1],[2],[3],[4]]
y1_train = [0,0,0,1]

#3.准备测试集
x1_test = [[5]]

#4. 模型训练
#参1 训练集 特征，  参2 训练集 标签
model1.fit(x1_train, y1_train)
y1_test = model1.predict(x1_test)

print(f'预测结果是:{y1_test}')

print('================================')
print('         回归         ')

#1.创建模型（算法）对象  回归
model2 = KNeighborsRegressor(n_neighbors=3) #离你最近的N个 这里是3个邻居
x2_train = [[0, 0, 1],[1, 1, 0],[3, 10, 10],[4, 11, 12]]
y2_train = [0.1, 0.2, 0.3, 0.4]

x2_test = [[3, 11, 10]]

model2.fit(x2_train, y2_train)
y2_test = model2.predict(x2_test)
print(f'预测结果是:{y2_test}')