DataWhale机器学习——第六章支持向量机学习笔记

第六章 支持向量机

6.1 间隔与支持向量 支持向量机(SVM)是一种二分类模型,通过最大化分类间隔找到最优分类超平面。支持向量是离决策边界最近的样本点。

6.2 对偶问题 对偶问题通过拉格朗日乘子法,将原始优化问题转换为对偶问题,使得求解高维空间中的最优超平面变得更为简单。

6.3 核函数 核函数用于将低维数据映射到高维空间,使得非线性可分问题在高维空间中变得线性可分。常见核函数有线性核、多项式核和高斯核。

6.4 软间隔与正则化 软间隔SVM通过引入松弛变量,允许一定的分类错误,提高模型的泛化能力。正则化参数用于平衡分类间隔和分类错误。

6.5 支持向量回归 支持向量回归(SVR)用于解决回归问题,通过引入ε不敏感损失函数,控制预测误差范围。

6.6 核方法 核方法广泛应用于各种机器学习算法中,如核PCA、核LDA等,通过核函数将线性方法扩展到非线性情况。

相关推荐
STLearner6 小时前
AI论文速读 | U-Cast:学习高维时间序列预测的层次结构
大数据·论文阅读·人工智能·深度学习·学习·机器学习·数据挖掘
黑客思维者7 小时前
LLM底层原理学习笔记:Adam优化器为何能征服巨型模型成为深度学习的“速度与稳定之王”
笔记·深度学习·学习·llm·adam优化器
kk哥88997 小时前
Swift底层原理学习笔记
笔记·学习·swift
roman_日积跬步-终至千里8 小时前
【模式识别与机器学习(16)】聚类分析【1】:基础概念与常见方法
人工智能·机器学习
AA陈超9 小时前
Lyra学习004:GameFeatureData分析
c++·笔记·学习·ue5·虚幻引擎
LDG_AGI10 小时前
【推荐系统】深度学习训练框架(十):PyTorch Dataset—PyTorch数据基石
人工智能·pytorch·分布式·python·深度学习·机器学习
zkl_zkl_10 小时前
地理信息系统学习笔记——第六章 空间数据采集与处理
笔记·学习·数据处理·数据质量·空间数据
光头程序员10 小时前
学习笔记——主攻 vite
笔记·学习
零匠学堂202510 小时前
移动学习系统,如何提升企业培训效果?
java·开发语言·spring boot·学习·音视频