支持向量机SVM

目录

    • [1 SVM直觉理解](#1 SVM直觉理解)
    • [2. 软硬间隔](#2. 软硬间隔)
    • [3. 升维转换及核技巧入门](#3. 升维转换及核技巧入门)
  • 参考资料

1 SVM直觉理解

通过一条直线将两类数据分开,并且当有新的数据加入时,通过该条直线就能判别其属于哪一类

为了区分两类数据,N为数据的样本数,M为维度数,如何设计一个维度为M-1的超平面,将两类数据分割开,

W可以理解为X对应的权重,

下面以2维空间为例,找到那条分割线

缓冲区足够大,可信度就足够高了。


寻找最佳决策边界的问题,可以转化为求解两类数据最大间隔问题 ,而间隔的正中央,就是我们的决策边界。当有新数据需要判断时,计算它与决策边界的相对位置,就可以分类了。

上图中 1 和 -1 就是对应的正负超平面。最终只需要求解W、B,得到下面3个超平面方程式

2. 软硬间隔

当有异常值的时候

同时考虑收入和成本因素,去最大化我们的利润。这个最优解下形成的间隔,我们称之为软间隔

在间隔距离和错误大小之间找到一个平衡。
硬间隔

3. 升维转换及核技巧入门

升维度,然后进行分类

核技巧

参考资料

1 支持向量机SVM是什么,八分钟直觉理解其本质 2022.1;

相关推荐
罗西的思考7 分钟前
【OpenClaw具身硬件】MiniClaw 阅读笔记---(1)基础
人工智能·算法·机器学习
蛋先生DX1 小时前
大模型参数存储格式揭秘:BF不是男朋友
深度学习·算法·llm
爱跳舞的烤冷面1 小时前
自学嵌入式第22天(数据结构——哈希)
数据结构·算法·哈希算法
猎嘤一号2 小时前
博弈论(Game Theory)的理论、算法与工程
人工智能·算法·安全·博弈论
马拉AI2 小时前
腾讯开源 Agent 记忆系统,AI“换对话就忘”的问题有了新解法(附安装使用教程)
人工智能·算法·开源·科研
地平线开发者4 小时前
征程6工具链模型X86推理方式说明
算法
地平线开发者4 小时前
【征程6】校准量化中HistogramObserver解析
算法
OuO-24 小时前
笔试强训 Day 34:ISBN 号码、kotori 和迷宫、矩阵最长递增路径
java·算法·矩阵
程序喵大人5 小时前
【C++进阶】STL算法与函数对象 - 04 find、count和any_of把查询写成意图
开发语言·c++·算法
豆沙沙包?5 小时前
c++中引用(P7-P11)
java·c++·算法