机器学习——支持向量机

第六章 支持向量机

支持向量机是一种监督学习算法 ,主要用于分类和回归分析。它的核心思想是在特征空间中寻找一个最优超平面,将不同类别的数据分开,并且使得分类间隔(margin)最大化。

  1. 最优超平面(Optimal Hyperplane)

    • 在二维空间中,超平面就是一条直线;在三维空间中是一个平面;更高维则是超平面

    • SVM 寻找的不是任意分隔线,而是间隔最大的那条分界线

  2. 支持向量(Support Vectors)

    • 距离超平面最近的那些数据点

    • 这些点"支撑"着最优超平面的位置

    • 关键特性:只有支持向量会影响最终的决策边界,其他点可以被忽略

  3. 间隔(Margin)

    • 超平面到最近数据点的距离

    • SVM 的目标是最大化这个间隔,因为更大的间隔通常意味着更好的泛化能力

    • 硬间隔 :要求所有样本都必须被正确分类,且满足间隔约束,不允许任何样本落在间隔内或越过决策边界。

    • 软间隔允许部分样本 违反间隔约束,通过引入松弛变量 (slack variables)来度量违反程度,在间隔最大化分类错误之间寻找平衡。

  4. 核函数------非线性支持向量机

    • 通过核函数将数据从原始空间映射到高维特征空间,使得数据在高维特征空间线性可分,将原本的非线性问题转换为线性问题

    • 是一种计算两个向量在高维特征空间中内积的函数 ,而无需显式地将向量映射到高维空间

    • 解决线性不可分问题

    • 处理结构化数据

相关推荐
羑悻的小杀马特17 分钟前
把随身WiFi改成网盘聚合器:中兴F50挂载本地存储+夸克网盘实战
运维·服务器·人工智能·网盘·openlist
meilindehuzi_a24 分钟前
从跑分到生产力:重新理解大模型基准测试与分层协作
人工智能
蜜桃味女焊匠人1 小时前
焊接生产线优化思路:解决手工焊、机器人焊气体浪费问题
人工智能·经验分享·其他·机器人
Georgeviewer6 小时前
商业落地评测|实体门店GEO优化性价比与服务体系深度复盘
大数据·人工智能
GuWenyue7 小时前
分不清AI Workflow与Agent?3个实战案例彻底讲透,做AI应用不再踩选型坑
人工智能
彩讯股份3006347 小时前
彩讯股份与心洲科技签署战略合作协议,共建企业级模型后训练能力
人工智能·科技
迅易科技8 小时前
从场景验证到Agent上线:迅易 × WorkBuddy如何帮助企业建设AI能力?
人工智能·ai·腾讯云
PNP Robotics8 小时前
多伦多大学机器人峰会|物理AI与具身智能落地新趋势
人工智能·深度学习·机器学习·机器人
GIR1238 小时前
官方出品 | 多通道土壤呼吸测量系统市场现状与十五五规划深度报告:行业分析+趋势预测全收录
大数据·人工智能·机器学习
绿算技术8 小时前
绿算技术亮相第十八届HPC AI中国年会,擘画AI基础设施全栈协同新图景
人工智能