机器学习——支持向量机

第六章 支持向量机

支持向量机是一种监督学习算法 ,主要用于分类和回归分析。它的核心思想是在特征空间中寻找一个最优超平面,将不同类别的数据分开,并且使得分类间隔(margin)最大化。

  1. 最优超平面(Optimal Hyperplane)

    • 在二维空间中,超平面就是一条直线;在三维空间中是一个平面;更高维则是超平面

    • SVM 寻找的不是任意分隔线,而是间隔最大的那条分界线

  2. 支持向量(Support Vectors)

    • 距离超平面最近的那些数据点

    • 这些点"支撑"着最优超平面的位置

    • 关键特性:只有支持向量会影响最终的决策边界,其他点可以被忽略

  3. 间隔(Margin)

    • 超平面到最近数据点的距离

    • SVM 的目标是最大化这个间隔,因为更大的间隔通常意味着更好的泛化能力

    • 硬间隔 :要求所有样本都必须被正确分类,且满足间隔约束,不允许任何样本落在间隔内或越过决策边界。

    • 软间隔允许部分样本 违反间隔约束,通过引入松弛变量 (slack variables)来度量违反程度,在间隔最大化分类错误之间寻找平衡。

  4. 核函数------非线性支持向量机

    • 通过核函数将数据从原始空间映射到高维特征空间,使得数据在高维特征空间线性可分,将原本的非线性问题转换为线性问题

    • 是一种计算两个向量在高维特征空间中内积的函数 ,而无需显式地将向量映射到高维空间

    • 解决线性不可分问题

    • 处理结构化数据

相关推荐
枫叶林FYL4 小时前
【强化学习】3 双系统持续强化学习:快速迁移与元知识整合架构手册
人工智能·机器学习·架构
189228048614 小时前
NY382固态MT29F32T08GSLBHL8-24QM:B
大数据·服务器·人工智能·科技·缓存
AI科技星4 小时前
哥德巴赫猜想1+1基于平行素数对等腰梯形网格拓扑与素数渐近密度的大偶数满填充完备性证明
人工智能·线性代数·架构·概率论·学习方法
GIS数据转换器5 小时前
农村生活污水治理智慧管控平台
大数据·人工智能·分布式·数据分析·生活·智慧城市
常威正在打来福5 小时前
frontend-design 入门指南:OpenClaw / Claude Code / Codex 三平台安装教程
人工智能·ai·ai编程
MediaTea5 小时前
AI 术语通俗词典:Dropout 层
人工智能
武子康5 小时前
调查研究-140 全球机器人产业深度调研报告【02篇】:全球机器人产业格局分析:五个阶段并存与商业化路径 2026
人工智能·ai·机器人·具身智能·智能化
木心术15 小时前
Windows系统下MySQL与AI工具集成方案:数据存储与调用实践
人工智能·windows·mysql
a752066285 小时前
OpenClaw企业微信渠道配置教程|API模式+长连接+全部授权
人工智能·机器人·企业微信·openclaw部署·小龙虾一键安装
AI语宙漫游指南5 小时前
AI Agent Skill 系统架构全解析:SKILL 规范与框架实现
人工智能·agent