机器学习——支持向量机

第六章 支持向量机

支持向量机是一种监督学习算法 ,主要用于分类和回归分析。它的核心思想是在特征空间中寻找一个最优超平面,将不同类别的数据分开,并且使得分类间隔(margin)最大化。

  1. 最优超平面(Optimal Hyperplane)

    • 在二维空间中,超平面就是一条直线;在三维空间中是一个平面;更高维则是超平面

    • SVM 寻找的不是任意分隔线,而是间隔最大的那条分界线

  2. 支持向量(Support Vectors)

    • 距离超平面最近的那些数据点

    • 这些点"支撑"着最优超平面的位置

    • 关键特性:只有支持向量会影响最终的决策边界,其他点可以被忽略

  3. 间隔(Margin)

    • 超平面到最近数据点的距离

    • SVM 的目标是最大化这个间隔,因为更大的间隔通常意味着更好的泛化能力

    • 硬间隔 :要求所有样本都必须被正确分类,且满足间隔约束,不允许任何样本落在间隔内或越过决策边界。

    • 软间隔允许部分样本 违反间隔约束,通过引入松弛变量 (slack variables)来度量违反程度,在间隔最大化分类错误之间寻找平衡。

  4. 核函数------非线性支持向量机

    • 通过核函数将数据从原始空间映射到高维特征空间,使得数据在高维特征空间线性可分,将原本的非线性问题转换为线性问题

    • 是一种计算两个向量在高维特征空间中内积的函数 ,而无需显式地将向量映射到高维空间

    • 解决线性不可分问题

    • 处理结构化数据

相关推荐
链上日记2 分钟前
WEEX TradFi交易边界正在消失
人工智能
ctlover5 分钟前
AI应用项目开发源码级教程:AI智能伴侣
人工智能
jonyleek8 分钟前
JVS-Logic 实践指南:基于私有化与柔性配置的企业级逻辑引擎落地方法
人工智能·低代码·私有化部署·企业集成·逻辑引擎·流程编排·jvs
诗句藏于尽头9 分钟前
deepseek harness对接商汤科技免费大模型使用教程
人工智能·科技·学习
兰亭妙微UI设计公司12 分钟前
兰亭妙微用户体验公司分享:《AI 体验设计》第 3 部分:指导原则
人工智能
阿萨德528号13 分钟前
DeepSeek Harness 开源了,但先别叫“正式版”:从封闭内测到 Developer Preview,只隔了两周
人工智能·deepseek·harness
轻松,带微笑13 分钟前
美拓GEO平台技术升级:六大AI平台监测+多模态视频能力,赋能品牌抢占AI营销新赛道
人工智能
MEIXIFU115 分钟前
便利店实际经营面积怎么选最合适
大数据·人工智能·物联网·生活·迭代加深
就是一顿骚操作28 分钟前
VGG:用小卷积块把 CNN 做深的经典解读
人工智能·深度学习·神经网络·cnn·论文解读
奈斯先生Vector33 分钟前
AI 视频不是会动的图片:用 Shot Contract、时间码与音画质检构建可交付流水线
人工智能·重构·架构·prompt·aigc·音视频