分类算法3.1 sklearn转换器和估计器;3.2 K-近邻算法

3.1 sklearn转换器和估计器

转换器

估计器(estimator)

3.1.1 sklearn转换器 ------特征工程的父类

1.实例化(实例化的是一个转换器类(transforer))

2.调用fit_transform(对于文档建立分类词频矩阵,不能同时调用)

标准化:

(x-mean)/std

fit_transform()

fit() :计算 每一列的平均值,标准差

transform() :(x-mean)/std进行最终的转换

3.1.2 估计器(sklearn机器学习算法的实现)

估计器工作流程

估计器(estimator)

  1. 实例化一个estimator

  2. estimator.fit(x_train,y_train) 计算

  3. 模型评估:

1) 直接比对真实值和预测值

y_preidct = estimator.predict(x_test)

y_test == y_predict

  1. 计算准确率

accuray = estimator.score(x_test,y_test)

3.2 K-近邻算法

3.2.1什么是K-近邻算法

1.K-近邻算法(KNN)原理

这个算法是机器学习中一个比较经典的算法。

定义:

如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。

距离公式:

求算距离有以下几种方法:

曼哈顿距离,绝对值距离,明可夫斯基距离。

2 电影类型分析

电影类型分析

k = 1 爱情片

k = 2 爱情片

k = 6 无法确定

k = 7 动作片

3 问题

如果取的最近的电影数量不一样,会是什么结果?

k值取得过小,容易受到异常点的影响

k值取得过大,样本不均衡的影响

结合前面的约会对象数据,分析K-近邻算法需要做什么样的处理

3.2.2 K-近邻算法API

3.2.3 案例1 : 鸢尾花种类预测

1 数据集介绍

iris数据集是常用的分类实验室数据集,有Fsisher,1936收集整理,iris也称鸢尾花卉数据集,是一类多重变量分析的数据集。

1)获取数据

2)数据集划分

3)特征工程

标准化

4)KNN预估器流程

5)模型评估

pycharm代码:

3.2.4 K-近邻总结

优点:简单,易于理解,易于实现,无需训练

缺点:懒惰算法,对测试样本分类时的计算量大,内存开销大

必须使用指定k值,k值选择不当则分类精度不能保证

使用场景:小数据场景,几千-几万样本,具体场景具体业务去测试

相关推荐
Patrick在香港16 小时前
Python实战:用数据分析拆解一场AI大会——WAIC 2026参展企业画像、议题演变与城市格局
人工智能·python·数据挖掘·数据分析·ai编程
hqyjzsb20 小时前
非计算机专业学生怎么进入AI相关方向
人工智能·职场和发展·金融·数据挖掘·数据分析·aigc·业界资讯
解局易否结局21 小时前
鸿蒙端侧 NLP 实战:分词器 + TF-IDF + 朴素贝叶斯分类 + 文本相似度
华为·自然语言处理·分类·harmonyos·tf-idf
数智化管理手记21 小时前
全面预算管理执行偏差大?全面预算管理全流程落地步骤是什么
大数据·网络·数据库·人工智能·数据挖掘
暖和_白开水21 小时前
数据分析agent 四:docker qdrant 镜像拉取,和教程
docker·数据挖掘·数据分析
小刘学技术21 小时前
AI人工智能决策树分类器:原理、实现与应用
开发语言·人工智能·python·算法·决策树·机器学习·数据挖掘
电商API_180079052471 天前
跨境货源中台搭建:打通淘宝商品全信息流转,解决批量铺货痛点
数据挖掘·网络爬虫
你是我的解忧王子1 天前
嵌入式 ADC采样 原始数据分析上层(平均值 波动率 正态分布 线性补偿 系统误差)
fpga开发·数据挖掘·数据分析
larance2 天前
机器学习特征预处理之删移除无关特征
人工智能·机器学习·数据挖掘
YangYang9YangYan2 天前
2026电子商务专业就业时学数据分析的价值分析
数据挖掘·数据分析