机器学习基础-支持向量机SVM

目录

基本概念和定义

[1. 超平面（Hyperplane）](#1. 超平面（Hyperplane）)

[2. 支持向量（Support Vectors）](#2. 支持向量（Support Vectors）)

[3. 线性可分](#3. 线性可分)

[4. 边界](#4. 边界)

SVM算法基本思想和分类

基本思想

间隔最大化

间隔（Margin）

[软边距 SVM](#软边距 SVM)

核函数的概念

---

基本概念和定义

• SVM是一个有监督的机器学习模型
• 用于分类任务 和回归任务
  • 支持线性和非线性分类(SVC)，下面以SVC展开
  • 支持线性和非线性回归(SVR)

1. 超平面（Hyperplane）

• 
• 作用：SVM 寻找的是能够最好地将不同类别分开的那个超平面。

2. 支持向量（Support Vectors）

• 定义 ：分类中距离超平面最近的数据点。
• 

3. 线性可分

• 

4. 边界

---

SVM算法基本思想和分类

基本思想

找到可以分隔不同类数据集的超平面(决策面)，使得支持向量(特殊的点)距离该平面的距离最大

---

间隔最大化

指的是寻找一个能够将不同类别的数据点分开的超平面，并且这个超平面到最近的数据点（即支持向量）的距离最大。

间隔（Margin）

• 定义 ：间隔是指两个类别之间距离的最大间隔。具体来说，它是从超平面到最近的支持向量的距离的两倍。

软边距 SVM

在实际应用中，数据往往不是完全线性可分的，或者可能存在噪声。为了应对这种情况，引入了软边距 SVM，允许一些样本位于边距内或错误分类。

---

核函数的概念

将非线性可分的数据转换为线性可分的数据的特征转换函数

理解