机器学习6_支持向量机_算法流程

最大化:

限制条件:

(1)

(2)

如何求解这个对偶问题,同时基于对偶问题给出支持向量机算法的统一流程。

(核函数)

只要知道核函数,就可以求个这个最优化的对偶问题。

求解了这个对偶问题后,解出了

可以根据上面的式子

由于 不知道是否具有显示表达,所以 也不知道是否具有显示表达。

无须知道 的显示表达,也可以通过核函数 的值

如何求b

由于

则

如果对某个 且 ,则根据KKT条件,必有 ;

只需要找一个

对于一个测试样本X如何获得其预测的类别?

需要计算 ,将 代入,将会得到

即使不知道 ,只知道 ,也可以算出

这一结论被称为------核函数系法(Kernel Trick)

可以得到如下判决标准:

如果 ,那么

如果 ,那么


基于对偶问题的求解,总结支持向量机训练的测试的流程

训练过程:

输入训练数据 ,其中

最大化:

限制条件:

(1)

(2)

求b

找一个 且 ,则

测试过程

考察测试数据X,预测它的类别y。

如果 ,那么

如果 ,那么

这里只是用到了核函数

相关推荐
YLCHUP4 分钟前
【思维&图论建模】题解:债权(debt)_图论_建模_思路转化_思维题目_C++算法竞赛
c++·笔记·算法·数学建模·贪心算法·深度优先·图论
2601_9679791235 分钟前
Python第七十四讲 异常处理完全精通 try-except零基础保姆级教程
python·异常处理·编程教程·错误处理·try-except
思麟呀37 分钟前
背包DP(01背包+完全背包)
c++·算法
wuyk5551 小时前
Spider-第07讲-JSON接口与正则提取
爬虫·python·json
2601_967987371 小时前
Sqlite参考手册
数据库·python·sqlite·api·教程
笑容掩饰我的失落2 小时前
区块链从小白到精通(七):Solidity 语法精讲——数据类型、函数、修饰器与事件
算法·区块链·php·智能合约·哈希算法
用户019027581612 小时前
A 股到价提醒机器人:AlphaFeed + 飞书/钉钉 Webhook
python
特立独行的猫A3 小时前
Ionic + 仓颉语言的 cj-tauri 开发框架实战:开发精美移动端 APP
java·后端·python
Pniubi3 小时前
力扣24. 两两交换链表中的节点(递归)
算法·leetcode·链表
高洁013 小时前
数据同化与动态状态估计:让孪生持续贴合现实
人工智能·python·深度学习·transformer·迁移学习