DataWhale机器学习——第六章支持向量机学习笔记

第六章 支持向量机

6.1 间隔与支持向量 支持向量机(SVM)是一种二分类模型,通过最大化分类间隔找到最优分类超平面。支持向量是离决策边界最近的样本点。

6.2 对偶问题 对偶问题通过拉格朗日乘子法,将原始优化问题转换为对偶问题,使得求解高维空间中的最优超平面变得更为简单。

6.3 核函数 核函数用于将低维数据映射到高维空间,使得非线性可分问题在高维空间中变得线性可分。常见核函数有线性核、多项式核和高斯核。

6.4 软间隔与正则化 软间隔SVM通过引入松弛变量,允许一定的分类错误,提高模型的泛化能力。正则化参数用于平衡分类间隔和分类错误。

6.5 支持向量回归 支持向量回归(SVR)用于解决回归问题,通过引入ε不敏感损失函数,控制预测误差范围。

6.6 核方法 核方法广泛应用于各种机器学习算法中,如核PCA、核LDA等,通过核函数将线性方法扩展到非线性情况。

相关推荐
学习3人组6 分钟前
机器学习KNeighborsClassifier实现手写数字识别
人工智能·机器学习
数智工坊7 分钟前
周志华《Machine Learning》学习笔记--第四章--决策树
笔记·学习·机器学习
m沐沐7 分钟前
【机器学习】NLP---用 Python+TF-IDF 给《红楼梦》自动提取关键词
人工智能·python·机器学习·自然语言处理·nlp·中文分词·tf-idf
威尔逊·柏斯科·希伯理10 分钟前
机器学习第二天(KNN)
人工智能·机器学习
书生的梦11 分钟前
《神经网络与深度学习》学习笔记(三):Transformer 模型
深度学习·神经网络·学习
nashane13 分钟前
HarmonyOS 6学习:深入解析CustomDialog嵌套弹窗中的this指向陷阱与解决方案
学习·华为·harmonyos
lqqjuly13 分钟前
优化理论:梯度方法、约束优化与机器学习优化
人工智能·机器学习
m沐沐13 分钟前
【机器学习】Python 实现垃圾邮件分类(随机森林 + 可视化 + 特征重要性)
人工智能·python·随机森林·机器学习·分类·pycharm·回归算法
百万小涵15 分钟前
从零接入大模型:通义千问、Ollama 与 OpenAI SDK 入门(RAG与Agent实战学习笔记①)
笔记·学习
我命由我1234517 分钟前
BOM 极简理解
运维·经验分享·笔记·物联网·学习·运维开发·学习方法