机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

如果对某个 ,则根据KKT条件,必有

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
金銀銅鐵3 小时前
[Python] 扩展欧几里得算法
python·数学·算法
Duckdblab4 小时前
DuckDB 性能调优终极指南:打造闪电般的分析体验
python
带派擂总4 小时前
Python全栈开发精华版最全合集(包含各种面试题) Day24_异常和错误
python
To_OC6 小时前
LC 200 岛屿数量:经典 DFS 入门题,我第一次写居然连方向都搞错了
javascript·算法·leetcode
金銀銅鐵7 小时前
n^5 和 n 的个位数是否总相等?
python·数学
aqi0010 小时前
15天学会AI应用开发(九)利用Chroma持久化向量数据
人工智能·python·大模型·ai编程·ai应用
金銀銅鐵11 小时前
借助 Pygame 探索最大公约数的规律
python·数学·游戏
To_OC1 天前
LC 128 最长连续序列:别上来就排序,O (n) 解法才是这题的灵魂
javascript·算法·leetcode