间隔与支持向量
w为法向量，决定的是超平面的方向。b是偏移项，决定了超平面与原点之间的距离。
为什么最大化间隔，得到的就是最优平面呢？
- 当超平面没有正确划分正负样本时，几何间隔为负数。
- 几何间隔，各个点中最小的，当正确划分时，越靠近正中间，几何间隔越大。
求解分类支持向量机
凸优化
拉格朗日对偶
KKT条件
求解
SMO
唯一不确定的地方：
核函数
软间隔与正则化
在现实任务中，很难确定合适的核函数使得训练样本在特征空间中线性可分，即使找到了也很难断定这个结果是不是过拟合造成的。
如何缓解?--软间隔
支持向量回归
