KNN算法与SVM支持向量机

KNN算法

KNN算法就是把要分类的对象(例如一个特征向量)与训练集中已知类标记的所有对象进行对比,并由K近邻对分类对象进行判断为那个类别。这种方法的效果好,但是也有弊端,与K-means聚类算法一样,需要先预定设置k的值,k值的选择会影响分类的性能。此外这种方法要求整个训练集存储起来,如果训练集偏大,搜索就慢,训练集偏小,分类结果准确率也就低。对于大的训练集,采取某些装箱形式通常会减少对比的次数。

SVM支持向量机

SVM支持向量机是一类强大的分类算法,最简单的SVM通过在高维空间中寻找一个最优线性分类面,对于特征向量x的决策函数为:

其中w是常规超平面,b是偏移量常数,阈值为0,有一类为正数或负数,求解带有标记的最优化问题,从而找到决策函数的参数。常规解释训练集上某些特征向量的线性组合为:

其中i是训练集中选出的部分样本,称为支持向量,它们可以帮助定义分类的边界。决策函数即变为:

SVM另一个优势是可以使用核函数 ,将特征向量映射到另一个不同维度的空间中。

相关推荐
苏苏susuus33 分钟前
机器学习:load_predict_project
人工智能·机器学习
科技小E33 分钟前
打手机检测算法AI智能分析网关V4守护公共/工业/医疗等多场景安全应用
人工智能·安全·智能手机
猿饵块2 小时前
视觉slam--框架
人工智能
yvestine3 小时前
自然语言处理——Transformer
人工智能·深度学习·自然语言处理·transformer
SuperW3 小时前
OPENCV图形计算面积、弧长API讲解(1)
人工智能·opencv·计算机视觉
山海不说话4 小时前
视频行为标注工具BehaviLabel(源码+使用介绍+Windows.Exe版本)
人工智能·python·计算机视觉·视觉检测
虹科数字化与AR5 小时前
安宝特方案丨船舶智造的“AR+AI+作业标准化管理解决方案”(装配)
人工智能·ar·ar眼镜·船舶智造·数字工作流·智能装配
飞哥数智坊6 小时前
Coze实战第13讲:飞书多维表格读取+豆包生图模型,轻松批量生成短剧封面
人工智能
newxtc6 小时前
【配置 YOLOX 用于按目录分类的图片数据集】
人工智能·目标跟踪·分类