机器学习——支持向量机

第六章 支持向量机

支持向量机是一种监督学习算法 ,主要用于分类和回归分析。它的核心思想是在特征空间中寻找一个最优超平面,将不同类别的数据分开,并且使得分类间隔(margin)最大化。

  1. 最优超平面(Optimal Hyperplane)

    • 在二维空间中,超平面就是一条直线;在三维空间中是一个平面;更高维则是超平面

    • SVM 寻找的不是任意分隔线,而是间隔最大的那条分界线

  2. 支持向量(Support Vectors)

    • 距离超平面最近的那些数据点

    • 这些点"支撑"着最优超平面的位置

    • 关键特性:只有支持向量会影响最终的决策边界,其他点可以被忽略

  3. 间隔(Margin)

    • 超平面到最近数据点的距离

    • SVM 的目标是最大化这个间隔,因为更大的间隔通常意味着更好的泛化能力

    • 硬间隔 :要求所有样本都必须被正确分类,且满足间隔约束,不允许任何样本落在间隔内或越过决策边界。

    • 软间隔 :允许部分样本 违反间隔约束,通过引入松弛变量 (slack variables)来度量违反程度,在间隔最大化 和分类错误之间寻找平衡。

  4. 核函数------非线性支持向量机

    • 通过核函数将数据从原始空间映射到高维特征空间,使得数据在高维特征空间线性可分,将原本的非线性问题转换为线性问题

    • 是一种计算两个向量在高维特征空间中内积的函数 ,而无需显式地将向量映射到高维空间。

    • 解决线性不可分问题

    • 处理结构化数据

相关推荐
java1234_小锋4 分钟前
Arthas 4 宣布正式拥抱 AI
人工智能
TomEval7 分钟前
【测AI】第17篇:大模型评测方法论 —— LLM 怎么测?
人工智能·python·aigc·测试用例
2601_965619698 分钟前
新闻数据可视化视频:AI自动生成图表动画的完整流程
人工智能·信息可视化·音视频
志尊宝11 分钟前
AI原生前端开发(018):端侧AI性能优化:模型加载、推理加速
人工智能·性能优化·ai-native
renhongxia112 分钟前
RAG检索增强生成:打通大模型与外部知识的通道
大数据·人工智能·算法
jarvisuni15 分钟前
【无标题】
人工智能·ai编程
沈阳光域纪元科技有限公司19 分钟前
GEO 效果归因的技术难点:从曝光到引用的链式度量
人工智能·创业创新
QYR-分析20 分钟前
2.80 亿增至 4.12 亿美元,CAGR5.6%:肌电诱发电位仪稳健扩容,神经电生理检测设备加速走向便携与数字化
大数据·网络·人工智能
宇哥(mf️取5r)21 分钟前
环评验收屡次卡壳,模块化危废间该如何匹配新标准?
大数据·人工智能·制造
醒醒该学习了!22 分钟前
Prompt 设计之带深度思考模型的提示方法和提示词优化
人工智能·prompt