机器学习基础-支持向量机SVM

目录

基本概念和定义

[1. 超平面(Hyperplane)](#1. 超平面(Hyperplane))

[2. 支持向量(Support Vectors)](#2. 支持向量(Support Vectors))

[3. 线性可分](#3. 线性可分)

[4. 边界](#4. 边界)

SVM算法基本思想和分类

基本思想

间隔最大化

间隔(Margin)

[软边距 SVM](#软边距 SVM)

核函数的概念


基本概念和定义

  • SVM是一个有监督的机器学习模型
  • 用于分类任务 和回归任务
    • 支持线性和非线性分类(SVC),下面以SVC展开
    • 支持线性和非线性回归(SVR)

1. 超平面(Hyperplane)

  • 作用:SVM 寻找的是能够最好地将不同类别分开的那个超平面。

2. 支持向量(Support Vectors)

  • 定义 :分类中距离超平面最近的数据点。

3. 线性可分

4. 边界


SVM算法基本思想和分类

基本思想

找到可以分隔不同类数据集的超平面(决策面),使得支持向量(特殊的点)距离该平面的距离最大


间隔最大化

指的是寻找一个能够将不同类别的数据点分开的超平面,并且这个超平面到最近的数据点(即支持向量)的距离最大。

间隔(Margin)

  • 定义 :间隔是指两个类别之间距离的最大间隔。具体来说,它是从超平面到最近的支持向量的距离的两倍。

软边距 SVM

在实际应用中,数据往往不是完全线性可分的,或者可能存在噪声。为了应对这种情况,引入了软边距 SVM,允许一些样本位于边距内或错误分类。


核函数的概念

将非线性可分的数据转换为线性可分的数据的特征转换函数

理解

相关推荐
锋行天下1 小时前
langgraph 后端发自定义数据,前端接收方法概括
人工智能·python
泯泷2 小时前
单个 AI 再强,为什么也干不过一支 AI 团队?
人工智能·llm·agent
浪遏2 小时前
认识 wm:从多平台发布到可扩展 CLI 的架构设计
人工智能
深蓝AI3 小时前
英伟达换帅当天,我先跑了一遍 GPU 环境体检:版本矩阵比人事更值得盯
人工智能·gpu
罗西的思考4 小时前
【轻量化复刻大模型 / KIMI K3】AttnRes 模块交互式演示
人工智能·算法·机器学习
stormzhangV5 小时前
涨薪 50% 怎么做到的?
人工智能·面试·aigc
老金带你玩AI5 小时前
如何在5分钟之内创建Grok Bot的超级团队
人工智能
程序员cxuan5 小时前
离谱,AI 大佬顺手搓了个 YouTube ,而我顺手给他搓了个中文插件
人工智能·后端·程序员
zixu_star6 小时前
上下文工程:Prompt、记忆和上下文如何管理?
人工智能·prompt
ZONGYUAN-ROOT6 小时前
【3D仿真数据集】从“能生成”到“能用”:面向工业仿真的3D资产自治自愈流水线全链路落地
人工智能