机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

则

如果对某个 且 ,则根据KKT条件,必有 ;

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 且 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
高级程序源4 小时前
django校园寻物通失物招领平台32261-计算机课程设计、毕业设计
vue.js·python·mysql·小程序·django·flask·课程设计
WeiXin_DZbishe4 小时前
基于springboot宠物领养系统-计算机毕设 附源码【课程设计】94217
vue.js·spring boot·python·django·php·课程设计
码爸4 小时前
线性回归算法
算法·机器学习·线性回归
kimnoic5 小时前
Python数据库学习心得:SQLite、MySQL、PostgreSQL优缺点
开发语言·python
snhna5 小时前
向量数据库深度实战:从 HNSW 到 pgvector、Milvus 选型与 RAG 落地
数据库·人工智能·python·postgresql·milvus
Coder-magician5 小时前
《代码随想录》刷题打卡day51:图论-part09(dijistra堆优化,Bellman_ford算法)
算法·图论
Nil2085 小时前
leetcode 763划分字母区间
算法·leetcode·职场和发展
不会就选b5 小时前
算法日常・每日刷题--<动态规划>20
算法·leetcode·动态规划
别动我齐刘海5 小时前
C++ 工程化学习
java·linux·前端·c++·学习·机器学习·机器人
必须得开心呀6 小时前
python编写带界面的软件,需要安装哪些插件
开发语言·python