统计学习方法(第二版) 第七章 支持向量机 (第三节)

本节介绍非线性支持向量机与核函数,这部分还是比较难的数学功底需要比较深厚。

目录

前言

一、为什么映射到高维线性可分。

二、核技巧

三、正定核的充要条件

四、常用核函数

五、非线性支持向量机

总结


前言

对解线性可分问题,线性支持向量机是一种非常好的分类方法,但是在很多情况中都是线性不可分的,那么又该怎么处理呢?

数学家最常用的思想就是将问题转化成以被解决的问题,那对于非线性可分的问题,怎样转化成线性可分的问题呢?

这里就有一个重要结论:在低维一个线性不可分的数据集映射到高维线性可分的概率越大,如果映射到无穷维,可认为线性可分的概率为一,即一定能找到一个超平面使数据可分。

这就是非线性支持向量机与核函数的思想应用。

一、为什么映射到高维线性可分。

初始有A、B、C、D四个点,颜色代表分类,在一维的角度我们没法找到一个点使得两类点线性可分,但经过y = x^2的映射到二维空间,我们可以看到数据集线性可分了。一维映射到二维。

二维映射到三维。

二、核技巧

三、正定核的充要条件

这部分还是有看不懂,数学基础知识还是比较弱,只简单介绍少核函数需要满足什么条件。

这里用线性代数的知识很好证明,不多说。Gram矩阵就是内积矩阵,所以是对称矩阵。

四、常用核函数

五、非线性支持向量机


总结

主要介绍非线性支持向量机与核函数方法,为什么核技巧要用到原问题的对偶问题来求解呢?因为可以大幅度减少计算量。下一节介绍优化算法,呜呜真是太难了,坚持住!

相关推荐
爱写代码的小朋友1 分钟前
生成式人工智能对学习生态的重构:从“辅助工具”到“依赖风险”的平衡难题
人工智能·学习·重构
西望云天19 分钟前
The 2023 ICPC Asia Shenyang Regional Contest(2023沈阳区域赛CEJK)
数据结构·算法·icpc
唤醒手腕21 分钟前
唤醒手腕2025年最新机器学习K近邻算法详细教程
人工智能·机器学习·近邻算法
却道天凉_好个秋22 分钟前
深度学习(十七):全批量梯度下降 (BGD)、随机梯度下降 (SGD) 和小批量梯度下降 (MBGD)
人工智能·深度学习·梯度下降
我星期八休息40 分钟前
C++异常处理全面解析:从基础到应用
java·开发语言·c++·人工智能·python·架构
常州晟凯电子科技42 分钟前
海思Hi3516CV610/Hi3516CV608开发笔记之环境搭建和SDK编译
人工智能·笔记·嵌入式硬件·物联网
William_cl42 分钟前
2025 年 AI + 编程工具实战:用新工具提升 50% 开发效率
人工智能
zh_xuan1 小时前
LeeCode92. 反转链表II
数据结构·算法·链表·leecode
2401_841495641 小时前
【数据结构】汉诺塔问题
java·数据结构·c++·python·算法·递归·
Q741_1472 小时前
C++ 位运算 高频面试考点 力扣137. 只出现一次的数字 II 题解 每日一题
c++·算法·leetcode·面试·位运算