统计学习方法(第二版) 第七章 支持向量机 (第三节)

本节介绍非线性支持向量机与核函数,这部分还是比较难的数学功底需要比较深厚。

目录

前言

一、为什么映射到高维线性可分。

二、核技巧

三、正定核的充要条件

四、常用核函数

五、非线性支持向量机

总结


前言

对解线性可分问题,线性支持向量机是一种非常好的分类方法,但是在很多情况中都是线性不可分的,那么又该怎么处理呢?

数学家最常用的思想就是将问题转化成以被解决的问题,那对于非线性可分的问题,怎样转化成线性可分的问题呢?

这里就有一个重要结论:在低维一个线性不可分的数据集映射到高维线性可分的概率越大,如果映射到无穷维,可认为线性可分的概率为一,即一定能找到一个超平面使数据可分。

这就是非线性支持向量机与核函数的思想应用。

一、为什么映射到高维线性可分。

初始有A、B、C、D四个点,颜色代表分类,在一维的角度我们没法找到一个点使得两类点线性可分,但经过y = x^2的映射到二维空间,我们可以看到数据集线性可分了。一维映射到二维。

二维映射到三维。

二、核技巧

三、正定核的充要条件

这部分还是有看不懂,数学基础知识还是比较弱,只简单介绍少核函数需要满足什么条件。

这里用线性代数的知识很好证明,不多说。Gram矩阵就是内积矩阵,所以是对称矩阵。

四、常用核函数

五、非线性支持向量机


总结

主要介绍非线性支持向量机与核函数方法,为什么核技巧要用到原问题的对偶问题来求解呢?因为可以大幅度减少计算量。下一节介绍优化算法,呜呜真是太难了,坚持住!

相关推荐
锋行天下4 分钟前
DeepSeek写Langgraph就是个大傻逼,一本正经胡说八道
前端·人工智能·后端
jktantan19 分钟前
每个节点 41 字节:把一棵百万节点树拆进 14 个 typed array
前端·javascript·vue.js·算法·typescript
沃达德软件24 分钟前
智慧无人机图像识别分析技术
人工智能·目标检测·计算机视觉·目标跟踪·视觉检测·无人机
揽星河..40 分钟前
【C语言】猜数字游戏
c语言·算法·游戏
染指111043 分钟前
162.Agent-LangGraph-检查点的作用
人工智能·python·langchain·agents
FII工业富联科技服务1 小时前
从灯塔工厂到规模化智能运营:Omniverse Sim2Real与多智能体协同架构解析
人工智能·数字孪生·ai智能体·工业机器人·omniverse·柔性制造·灯塔工厂
合尘猫1 小时前
6GB 笔记本本地跑 Z-Image Turbo:一次从 cu121 到 cu130 的踩坑记录
人工智能·ai·大模型·本地部署
2401_832298101 小时前
当思考本身被解放:AI 时代的人与机器
人工智能
北方的银狐-Zero1 小时前
Palantir 平替产品出世:OntoL 8.0 发布,把「企业级本体决策平台」产品复刻出来了
人工智能·本体论·本体产品
赤龙ERP1 小时前
ERP周报:连接器开闸、国产GPU进场与智能工厂253家
数据库·人工智能·大模型·rpa·erp·企业数字化·builderpattern