机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

则

如果对某个 且 ,则根据KKT条件,必有 ;

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 且 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
曲径海盗15 分钟前
【Python 学习第 32 天】字符串基础
python·学习笔记·编程入门
丁希希哇17 分钟前
Transformer中的注意力机制(Attention)
人工智能·机器学习·transformer·大语言模型
田里的水稻31 分钟前
PyTorch_torchvision---数据集下载\TensorBoard可视化
人工智能·pytorch·python·深度学习·机器学习
UIU11437 分钟前
P1003 [NOIP 2011 提高组] 铺地毯
数据结构·c++·算法
程序员正茂38 分钟前
Win11使用自定义训练集训练ncnn模型
python·yolo·图像识别·移动端·ncnn
爱读书的小胖41 分钟前
LeetCode 88. 合并两个有序数组 C 解题分析
c语言·数据结构·算法
zwd200544 分钟前
Manim 画布尺寸与像素换算详解:frame_width、frame_height、pixel_width 和画质参数(0.21.0 实测)
python·分辨率·manim·数学动画·frame_width·manim教程
最强小杰1 小时前
Claude Opus 4.8 调用报 529 怎么办?并发限制触发过载——退避策略与降级方案完整指南
运维·网络·python·ai
databook1 小时前
MinMax vs Standard vs Robust:三种特征缩放怎么选
python·机器学习·数据分析