支持向量机SVM

目录

    • [1 SVM直觉理解](#1 SVM直觉理解)
    • [2. 软硬间隔](#2. 软硬间隔)
    • [3. 升维转换及核技巧入门](#3. 升维转换及核技巧入门)
  • 参考资料

1 SVM直觉理解

通过一条直线将两类数据分开,并且当有新的数据加入时,通过该条直线就能判别其属于哪一类

为了区分两类数据,N为数据的样本数,M为维度数,如何设计一个维度为M-1的超平面,将两类数据分割开,

W可以理解为X对应的权重,

下面以2维空间为例,找到那条分割线

缓冲区足够大,可信度就足够高了。


寻找最佳决策边界的问题,可以转化为求解两类数据最大间隔问题 ,而间隔的正中央,就是我们的决策边界。当有新数据需要判断时,计算它与决策边界的相对位置,就可以分类了。

上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B,得到下面3个超平面方程式

2. 软硬间隔

当有异常值的时候

同时考虑收入和成本因素,去最大化我们的利润。这个最优解下形成的间隔,我们称之为软间隔

在间隔距离和错误大小之间找到一个平衡。
硬间隔

3. 升维转换及核技巧入门

升维度,然后进行分类

核技巧

参考资料

[1] 支持向量机SVM是什么,八分钟直觉理解其本质 2022.1;

相关推荐
BlackPercy1 小时前
【线性代数】列主元法求矩阵的逆
线性代数·机器学习·矩阵
EQUINOX11 小时前
3b1b线性代数基础
人工智能·线性代数·机器学习
一只码代码的章鱼1 小时前
粒子群算法 笔记 数学建模
笔记·算法·数学建模·逻辑回归
小小小小关同学1 小时前
【JVM】垃圾收集器详解
java·jvm·算法
Swift社区1 小时前
统计文本文件中单词频率的 Swift 与 Bash 实现详解
vue.js·leetcode·机器学习
圆圆滚滚小企鹅。1 小时前
刷题笔记 贪心算法-1 贪心算法理论基础
笔记·算法·leetcode·贪心算法
Kacey Huang2 小时前
YOLOv1、YOLOv2、YOLOv3目标检测算法原理与实战第十三天|YOLOv3实战、安装Typora
人工智能·算法·yolo·目标检测·计算机视觉
加德霍克2 小时前
【机器学习】使用scikit-learn中的KNN包实现对鸢尾花数据集或者自定义数据集的的预测
人工智能·python·学习·机器学习·作业
eguid_12 小时前
JavaScript图像处理,常用图像边缘检测算法简单介绍说明
javascript·图像处理·算法·计算机视觉
带多刺的玫瑰2 小时前
Leecode刷题C语言之收集所有金币可获得的最大积分
算法·深度优先