机器学习基础-支持向量机SVM

目录

基本概念和定义

[1. 超平面(Hyperplane)](#1. 超平面(Hyperplane))

[2. 支持向量(Support Vectors)](#2. 支持向量(Support Vectors))

[3. 线性可分](#3. 线性可分)

[4. 边界](#4. 边界)

SVM算法基本思想和分类

基本思想

间隔最大化

间隔(Margin)

[软边距 SVM](#软边距 SVM)

核函数的概念


基本概念和定义

  • SVM是一个有监督的机器学习模型
  • 用于分类任务回归任务
    • 支持线性和非线性分类(SVC),下面以SVC展开
    • 支持线性和非线性回归(SVR)

1. 超平面(Hyperplane)

  • 作用:SVM 寻找的是能够最好地将不同类别分开的那个超平面。

2. 支持向量(Support Vectors)

  • 定义分类中距离超平面最近的数据点

3. 线性可分

4. 边界


SVM算法基本思想和分类

基本思想

找到可以分隔不同类数据集的超平面(决策面),使得支持向量(特殊的点)距离该平面的距离最大


间隔最大化

指的是寻找一个能够将不同类别的数据点分开的超平面,并且这个超平面到最近的数据点(即支持向量)的距离最大。

间隔(Margin)

  • 定义 :间隔是指两个类别之间距离的最大间隔。具体来说,它是从超平面到最近的支持向量的距离的两倍。

软边距 SVM

在实际应用中,数据往往不是完全线性可分的,或者可能存在噪声。为了应对这种情况,引入了软边距 SVM,允许一些样本位于边距内或错误分类。


核函数的概念

非线性可分的数据转换为线性可分的数据特征转换函数

理解

相关推荐
夏莉莉iy3 分钟前
[ICCV 2023]Scalable Diffusion Models with Transformers
人工智能·深度学习·transformer·图像·扩散模型·视觉·dit
深蓝易网3 分钟前
工厂目视化实操手册,告别形式主义
运维·网络·数据库·人工智能·汽车
程序大视界6 分钟前
Agent Skills:让AI助手真正“有技能“的开源标准,正在悄悄改变整个行业
人工智能·开源
老鱼说AI8 分钟前
大模型面试:从字节到集群的大模型微调底层推演指南
人工智能·深度学习·神经网络·机器学习·自然语言处理
ishangy8 分钟前
智慧港口周界安防模块AI视觉解决方案
人工智能·智慧港口·ai监控·ai视频监控
FONE_Platform8 分钟前
FONE大健康行业全面预算解决方案:重塑全链路敏捷预算体系
大数据·人工智能·区块链·全面预算
tianyuanwo9 分钟前
AI Harness Engineering 应用最佳实践:从单点故障到系统护栏
人工智能·git·harnnees
纤纡.9 分钟前
基于 Qwen2.5-1.5B-Instruct 大模型实现文本分类、多轮对话与信息抽取实战
人工智能·语言模型·分类·数据挖掘
科技小花11 分钟前
AI原生 vs 云原生:数据治理平台选型如何匹配你的数据中台架构?
大数据·数据库·人工智能·数据治理·数据中台