机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

则

如果对某个 且 ,则根据KKT条件,必有 ;

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 且 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
黄金龙PLUS5 分钟前
如何基于置换算法来设计对称加密算法
算法·网络安全·密码学·哈希算法·同态加密
不会就选b9 分钟前
算法日常・每日刷题--<动态规划>14
算法
外收内放17 分钟前
Python基础语法练习题(57-58)
开发语言·python
赛博守夜人28 分钟前
跨境业务与出海合规之九:海外买量投放与营销虚假流量(Ad Fraud):跨国机房群控与归因欺诈识别算法
算法·安全
wuyk55535 分钟前
ROS2 Humble 从入门实战教程:第六章:节点:机器人的工作细胞
机器学习
朝朝辞暮i38 分钟前
VLA 系统学习第 3 课:从一次机器人示范,到真正送进神经网络的 Batch
人工智能·python·深度学习·神经网络·vla
小鹿的周先生1 小时前
第11章-Structured-Output
开发语言·人工智能·python
梦在远山后1 小时前
通过 WSS 让 Server 安全调用 Desktop 本地工具(下01):Ticket、人工确认、幂等与断线对账
python·langchain·agent
泡海椒2 小时前
JQuick-Excel 实战:FORMAT 管理日期与数字的 Excel 显示
开发语言·python·excel
学掌门3 小时前
老司机带你十分钟入门Python!
开发语言·python