支持向量机SVM

目录

    • [1 SVM直觉理解](#1 SVM直觉理解)
    • [2. 软硬间隔](#2. 软硬间隔)
    • [3. 升维转换及核技巧入门](#3. 升维转换及核技巧入门)
  • 参考资料

1 SVM直觉理解

通过一条直线将两类数据分开,并且当有新的数据加入时,通过该条直线就能判别其属于哪一类

为了区分两类数据,N为数据的样本数,M为维度数,如何设计一个维度为M-1的超平面,将两类数据分割开,

W可以理解为X对应的权重,

下面以2维空间为例,找到那条分割线

缓冲区足够大,可信度就足够高了。


寻找最佳决策边界的问题,可以转化为求解两类数据最大间隔问题 ,而间隔的正中央,就是我们的决策边界。当有新数据需要判断时,计算它与决策边界的相对位置,就可以分类了。

上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B,得到下面3个超平面方程式

2. 软硬间隔

当有异常值的时候

同时考虑收入和成本因素,去最大化我们的利润。这个最优解下形成的间隔,我们称之为软间隔

在间隔距离和错误大小之间找到一个平衡。
硬间隔

3. 升维转换及核技巧入门

升维度,然后进行分类

核技巧

参考资料

[1] 支持向量机SVM是什么,八分钟直觉理解其本质 2022.1;

相关推荐
程序员Linc3 分钟前
计算机视觉 vs 机器视觉 | 机器学习 vs 深度学习:核心差异与行业启示
深度学习·机器学习·计算机视觉·机器视觉
不去幼儿园3 分钟前
【启发式算法】Dijkstra算法详细介绍(Python)
人工智能·python·算法·机器学习·启发式算法·图搜索算法
serve the people12 分钟前
神经网络中梯度计算求和公式求导问题
神经网络·算法·机器学习
闻缺陷则喜何志丹17 分钟前
【二分查找、滑动窗口】P10389 [蓝桥杯 2024 省 A] 成绩统计|普及+
c++·算法·蓝桥杯·二分查找·滑动窗口·洛谷·成绩
大数据追光猿22 分钟前
【大模型技术】LlamaFactory 的原理解析与应用
人工智能·python·机器学习·docker·语言模型·github·transformer
乔冠宇1 小时前
蓝桥杯算法——铠甲合体
算法·职场和发展·蓝桥杯
商bol451 小时前
算阶,jdk和idea的安装
数据结构·c++·算法
迷迭所归处1 小时前
C语言 —— 愿文明如薪火般灿烂 - 函数递归
c语言·开发语言·算法
神秘的土鸡1 小时前
如何在WPS中接入DeepSeek并使用OfficeAI助手(超细!成功版本)
人工智能·机器学习·自然语言处理·数据分析·llama·wps
潘达斯奈基~2 小时前
机器学习4-PCA降维
人工智能·深度学习·机器学习