机器学习--KNN算法中的距离、范数、正则化

一、KNN算法(K最邻进分类算法)

用距离最近的一类来预测未知的类别,到底属于哪个类

例子:假设统计了几个人的身高数据,并且知道这几个人的性别,这时候来了一个人:知道身高但不知道性别,现在来预测一下这个人的性别

通过距离来进行算法分类:

在一维数轴上,找到每个人和新来的这个人的身高,通过寻找3个身高与新人相差最小的人(k=3)来预测新来的人到底是男性还是女性。计算每个人与新来的人的身高差(出现负数预测不靠谱),则将身高差先平方后开方,其中身高差最小的三个人也就是与新来的人距离最近的人,其中三个人中有两个人为女性,则预测新来的人为女性。

若在数据中增加一个体重数据,则建立二维平面图,同上根据距离进行算法分类

若在数据中再增加一个腰维数据,则建立平面直角坐标系,同上根据距离进行算法分类

二、计算距离的几种距离公式

1.曼哈顿距离

常用在汽车导航(比较两个目的地的距离哪个更长),计算机视觉领域(识别两个相似的图像或者物体)

2.欧氏距离

常用在推荐算法,欺诈检测,图像识别当中

3.切比雪夫距离(国王距离)

计算两个数据点之间任意维度上差的最大距离

4.闵可夫斯基距离(距离度量的统一框架)

三、距离,范数,正则化的关系

距离:定义在空间上任意两点之间,衡量空间上两点之间的间隔或者差异

范数:计算向量的长度,来衡量一个向量的大小(必须为非负的实数)

正则化:解决过拟合问题

距离的度量是范数的几何应用,而正则化则是范数的算法约束应用

相关推荐
hetao17338371 分钟前
2026-10-19 hetao1733837 的刷题记录
c++·算法
深蓝电商API2 分钟前
Firecrawl、ScrapeGraphAI:AI爬虫框架横评
人工智能·爬虫·firecrawl·scrapegraphai
Hpc_Fun4 分钟前
医学影像 AI 工作站怎么配?五类工位、3 秒首幅的时延预算与验收脚本
人工智能
薛定猫AI13 分钟前
【技术干货】多AI团队大模型协作编排与编程项目评测架构解析
python·机器学习·ai·大模型·技术实战
FII工业富联科技服务15 分钟前
如何提升工厂空间利用率与产线 UPH?从 Omniverse 布局优化到柔性自动化改造
人工智能·机器人·自动化·智能制造·omniverse·柔性生产·ai factory
辛苦才能18 分钟前
C++ 哈希表深度解析:删除为什么必须打标记,负载因子为什么卡 0.7
开发语言·数据结构·c++·算法
m0_6399069420 分钟前
HashMap:哈希扰动、扩容源码、红黑树转换、并发问题
java·算法·哈希算法
深海鱼肝油ya21 分钟前
企业级RAG问答系统(一)数据处理模块
人工智能·大模型·pdf文件解析·rag问答系统·智能分块
本原财经23 分钟前
大厂争霸AI办公:个人Agent和AI硬件哪个才是答案?
大数据·人工智能
博谷27 分钟前
2026GEO概率化观测怎么做?BUGOOAI布谷GEO的采样与指标体系拆解
人工智能·ai