机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

如果对某个 ,则根据KKT条件,必有

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
有为少年18 小时前
Welford 算法 | 优雅地计算海量数据的均值与方差
人工智能·深度学习·神经网络·学习·算法·机器学习·均值算法
Ven%18 小时前
从单轮问答到连贯对话:RAG多轮对话技术详解
人工智能·python·深度学习·神经网络·算法
山楂树の18 小时前
爬楼梯(动态规划)
算法·动态规划
谈笑也风生19 小时前
经典算法题型之复数乘法(二)
开发语言·python·算法
智算菩萨19 小时前
强化学习从单代理到多代理系统的理论与算法架构综述
人工智能·算法·强化学习
lhn19 小时前
大模型强化学习总结
算法
Gigavision19 小时前
MMPD数据集 最新Mamba算法 源码+数据集 下载方式
算法
先知后行。19 小时前
python的类
开发语言·python
Xの哲學19 小时前
Linux UPnP技术深度解析: 从设计哲学到实现细节
linux·服务器·网络·算法·边缘计算
歌_顿19 小时前
GPT 系列学习总结(1-3)
算法