机器学习——支持向量机

第六章 支持向量机

支持向量机是一种监督学习算法 ,主要用于分类和回归分析。它的核心思想是在特征空间中寻找一个最优超平面,将不同类别的数据分开,并且使得分类间隔(margin)最大化。

  1. 最优超平面(Optimal Hyperplane)

    • 在二维空间中,超平面就是一条直线;在三维空间中是一个平面;更高维则是超平面

    • SVM 寻找的不是任意分隔线,而是间隔最大的那条分界线

  2. 支持向量(Support Vectors)

    • 距离超平面最近的那些数据点

    • 这些点"支撑"着最优超平面的位置

    • 关键特性:只有支持向量会影响最终的决策边界,其他点可以被忽略

  3. 间隔(Margin)

    • 超平面到最近数据点的距离

    • SVM 的目标是最大化这个间隔,因为更大的间隔通常意味着更好的泛化能力

    • 硬间隔 :要求所有样本都必须被正确分类,且满足间隔约束,不允许任何样本落在间隔内或越过决策边界。

    • 软间隔允许部分样本 违反间隔约束,通过引入松弛变量 (slack variables)来度量违反程度,在间隔最大化分类错误之间寻找平衡。

  4. 核函数------非线性支持向量机

    • 通过核函数将数据从原始空间映射到高维特征空间,使得数据在高维特征空间线性可分,将原本的非线性问题转换为线性问题

    • 是一种计算两个向量在高维特征空间中内积的函数 ,而无需显式地将向量映射到高维空间

    • 解决线性不可分问题

    • 处理结构化数据

相关推荐
圣殿骑士-Khtangc几秒前
解决MCP工具数量爆炸的终极方案:从混乱到有序的架构演进
人工智能
happyprince3 分钟前
2026年04月24日全球AI前沿动态
人工智能
IRevers6 分钟前
【Agent】基于Langchain的Agent数据库查询助手
数据库·人工智能·pytorch·sql·深度学习·langchain·agent
Godspeed Zhao7 分钟前
具身智能中的传感器技术35——RGB-D相机0
人工智能·科技·数码相机·具身智能
珹洺7 分钟前
C++AI多模型聊天系统(四)SSH反向隧道/虚拟局域网(VLAN)调用本地Ollama大模型
c++·人工智能·ssh
直奔標竿8 分钟前
Java开发者AI转型第十三课!知识库终局方案:Spring AI Vector Store架构演进与ETL全链路入库实战
java·人工智能·后端·spring
研究点啥好呢9 分钟前
Momenta算法工程师面试题精选:10道高频考题+答案解析
人工智能·算法·求职招聘·面试笔试
Resistance丶未来10 分钟前
DeepSeek-V4 新手快速上手指南
数据结构·python·gpt·算法·机器学习·claude·claude 4.6
羊羊小栈12 分钟前
基于「YOLO目标检测 + 多模态AI分析」的人员摔倒智能检测分析预警系统
人工智能·yolo·目标检测·计算机视觉·毕业设计·大作业
JackieZhengChina13 分钟前
阿里开源项目Pixelle-Video 详解:开源AI全自动短视频引擎,零门槛一键生成成片
人工智能·开源项目·视频制作