支持向量机

基本目标

SVM 的目标是在样本空间中找到一个**划分超平面**,将不同类别的样本分开。

理想超平面的特点

对训练样本的**局部扰动**具有最好的"容忍性",即泛化能力强。

优化目标

最大化间隔(margin),即寻找一个使两类样本到超平面距离最大的超平面。

支持向量

指的是那些**距离超平面最近**的样本点,它们决定了超平面的位置和方向。

超平面的数学表示

超平面是 \(n\) 维空间中的一个 \(n-1\) 维子空间。

例如:

三维空间中的超平面是二维平面;

二维空间中的超平面是一维直线。

可以用线性方程表示:\(\mathbf{w} \cdot \mathbf{x} + b = 0\)。

SVM 的优化问题

通过数学优化(如拉格朗日乘子法)求解最优 \(\mathbf{w}\) 和 \(b\),以最大化间隔。

相关推荐
学习中.........1 小时前
Transformer 训练资源估算:以 CS336 GPT-2 XL 配置为例
人工智能·python·算法·机器学习·自然语言处理
Navigator_Z6 小时前
LeetCode //C - 1206. Design Skiplist
c语言·算法·leetcode
码行山野赴时序归途6 小时前
三道经典数组题:从暴力到最优的算法思维
c语言·开发语言·数据结构·算法·leetcode
徐小夕7 小时前
3分钟从想法到Agent上线:我们开源了一款AI可视化工作流“IDE”
前端·算法·github
sel_98 小时前
【强化学习】Hands-on Modern RL项目实践|OPD 算法完整解析
人工智能·深度学习·算法·机器学习·语言模型
Navigator_Z9 小时前
LeetCode //C - 1209. Remove All Adjacent Duplicates in String II
c语言·算法·leetcode
ShineWinsu10 小时前
对于 C++:C++14中从变量模板、泛型 Lambda 到并发与字面量的解析
c++·算法
土司大王11 小时前
LeetCode hot100——合并两个有序链表
算法·leetcode·链表
码行山野赴时序归途11 小时前
算法效率的度量(上):时间复杂度中的对数思维
c语言·数据结构·算法