DataWhale机器学习——第六章支持向量机学习笔记

第六章 支持向量机

6.1 间隔与支持向量 支持向量机(SVM)是一种二分类模型,通过最大化分类间隔找到最优分类超平面。支持向量是离决策边界最近的样本点。

6.2 对偶问题 对偶问题通过拉格朗日乘子法,将原始优化问题转换为对偶问题,使得求解高维空间中的最优超平面变得更为简单。

6.3 核函数 核函数用于将低维数据映射到高维空间,使得非线性可分问题在高维空间中变得线性可分。常见核函数有线性核、多项式核和高斯核。

6.4 软间隔与正则化 软间隔SVM通过引入松弛变量,允许一定的分类错误,提高模型的泛化能力。正则化参数用于平衡分类间隔和分类错误。

6.5 支持向量回归 支持向量回归(SVR)用于解决回归问题,通过引入ε不敏感损失函数,控制预测误差范围。

6.6 核方法 核方法广泛应用于各种机器学习算法中,如核PCA、核LDA等,通过核函数将线性方法扩展到非线性情况。

相关推荐
宣宣猪的小花园.4 分钟前
【控制理论】系统为什么会“有记忆”:从输入输出理解动态过程
人工智能·嵌入式硬件·机器学习
小小帅呀19 分钟前
学习 VLA 第 4 天:Transformer 原理与复现实战
深度学习·学习·transformer
问天_观心1 小时前
深入学习Transformer(一)
人工智能·python·深度学习·神经网络·学习·transformer
liliangcsdn1 小时前
skewness收益偏度取负因子背后逻辑的探索
人工智能·算法·机器学习
雷帝木木1 小时前
DVC数据版本控制实战:让训练数据像代码一样可追溯
人工智能·python·深度学习·机器学习
爱莉希雅&&&1 小时前
Git 版本控制完整学习笔记
笔记·git·学习
明王明王1 小时前
从零搭建一个单节点 K8S 可观测实验室(十三):总结——这个实验室如何服务工作、学习和开源项目
学习·kubernetes·开源
Romantic_love_1 小时前
理解USART真实收发过程
开发语言·stm32·单片机·学习
叠层归一研究院1 小时前
缝合维度:时空3+1结构的拓扑起源
人工智能·算法·机器学习·agi
MartinYeung51 小时前
[论文学习]潜伏代理:训练能够经受安全训练的欺骗性大语言模型深度分析
学习·安全·语言模型