机器学习基础-支持向量机SVM

目录

基本概念和定义

[1. 超平面(Hyperplane)](#1. 超平面(Hyperplane))

[2. 支持向量(Support Vectors)](#2. 支持向量(Support Vectors))

[3. 线性可分](#3. 线性可分)

[4. 边界](#4. 边界)

SVM算法基本思想和分类

基本思想

间隔最大化

间隔(Margin)

[软边距 SVM](#软边距 SVM)

核函数的概念


基本概念和定义

  • SVM是一个有监督的机器学习模型
  • 用于分类任务回归任务
    • 支持线性和非线性分类(SVC),下面以SVC展开
    • 支持线性和非线性回归(SVR)

1. 超平面(Hyperplane)

  • 作用:SVM 寻找的是能够最好地将不同类别分开的那个超平面。

2. 支持向量(Support Vectors)

  • 定义分类中距离超平面最近的数据点

3. 线性可分

4. 边界


SVM算法基本思想和分类

基本思想

找到可以分隔不同类数据集的超平面(决策面),使得支持向量(特殊的点)距离该平面的距离最大


间隔最大化

指的是寻找一个能够将不同类别的数据点分开的超平面,并且这个超平面到最近的数据点(即支持向量)的距离最大。

间隔(Margin)

  • 定义 :间隔是指两个类别之间距离的最大间隔。具体来说,它是从超平面到最近的支持向量的距离的两倍。

软边距 SVM

在实际应用中,数据往往不是完全线性可分的,或者可能存在噪声。为了应对这种情况,引入了软边距 SVM,允许一些样本位于边距内或错误分类。


核函数的概念

非线性可分的数据转换为线性可分的数据特征转换函数

理解

相关推荐
程序员小袁14 分钟前
基于C-MTEB/CMedQAv2-rerankingv的Qwen3-1.7b模型微调-demo
人工智能
飞哥数智坊1 小时前
AI 编程一年多,我终于明白:比技巧更重要的,是熟练度
人工智能·ai编程
新智元2 小时前
收手吧 GPT-5-Codex,外面全是 AI 编程智能体!
人工智能·openai
IT_陈寒2 小时前
Java 性能优化:5个被低估的JVM参数让你的应用吞吐量提升50%
前端·人工智能·后端
阿里云云原生2 小时前
阿里云基础设施 AI Tech Day AI 原生,智构未来——AI 原生架构与企业实践专场
人工智能
Memene摸鱼日报3 小时前
「Memene 摸鱼日报 2025.9.16」OpenAI 推出 GPT-5-Codex 编程模型,xAI 发布 Grok 4 Fast
人工智能·aigc
AI小云3 小时前
【机器学习与实战】回归分析与预测:线性回归-03-损失函数与梯度下降
机器学习
xiaohouzi1122333 小时前
OpenCV的cv2.VideoCapture如何加GStreamer后端
人工智能·opencv·计算机视觉
用户125205597083 小时前
解决Stable Diffusion WebUI训练嵌入式模型报错问题
人工智能
Juchecar3 小时前
一文讲清 nn.LayerNorm 层归一化
人工智能