支持向量机SVM

目录

    • [1 SVM直觉理解](#1 SVM直觉理解)
    • [2. 软硬间隔](#2. 软硬间隔)
    • [3. 升维转换及核技巧入门](#3. 升维转换及核技巧入门)
  • 参考资料

1 SVM直觉理解

通过一条直线将两类数据分开,并且当有新的数据加入时,通过该条直线就能判别其属于哪一类

为了区分两类数据,N为数据的样本数,M为维度数,如何设计一个维度为M-1的超平面,将两类数据分割开,

W可以理解为X对应的权重,

下面以2维空间为例,找到那条分割线

缓冲区足够大,可信度就足够高了。


寻找最佳决策边界的问题,可以转化为求解两类数据最大间隔问题 ,而间隔的正中央,就是我们的决策边界。当有新数据需要判断时,计算它与决策边界的相对位置,就可以分类了。

上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B,得到下面3个超平面方程式。

2. 软硬间隔

当有异常值的时候

同时考虑收入和成本因素,去最大化我们的利润。这个最优解下形成的间隔,我们称之为软间隔

在间隔距离和错误大小之间找到一个平衡。
硬间隔

3. 升维转换及核技巧入门

升维度,然后进行分类

核技巧

参考资料

1 支持向量机SVM是什么,八分钟直觉理解其本质 2022.1;

相关推荐
风落青芜14 分钟前
数据结构:堆的概念与实现
c语言·开发语言·数据结构·算法
AI源码26 分钟前
基于机器学习的优衣库销售预测与决策系统
人工智能·机器学习
Pniubi4 小时前
01背包类问题-力扣416.分割等和子集
算法·leetcode·职场和发展
罗西的思考15 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
kyle~20 小时前
模型预测控制(MPC)
算法·机器人·控制·传感器
Be for thing20 小时前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习
武子康21 小时前
AI通关了,游戏就算通过测试了吗?
人工智能·游戏·机器学习
牢姐与蒯21 小时前
cpp算法之哈希
c++·算法·哈希算法
开开心心就好1 天前
两张表格数据对比工具,不用写函数也能查
算法·spring·智能手机·pdf·电脑·intellij-idea·音视频
电科_银尘1 天前
【大模型算法与工程 02】线性回归与逻辑回归:从损失函数到决策边界
算法·逻辑回归·线性回归