人工智能学习:LR和SVM的联系与区别?

LR和SVM的联系与区别?

相同点:

(1) LR和SVM都可以处理分类问题 ,且--- 般都用于处理线性二 分类问题(在改进的情况下可以处理多分类问题)

(2)两个方 法都可以增加不同的正则化项 ,如L1、 L2等等。所以在很多实验中 ,两种算法的结果是很接近的。

区别:

(1) LR是参数模型, SVM是非参数模型。

(2)从目 标函数来看 ,区别在于逻辑回归采用 的是Logistical Loss ,SVM采用 的是hinge loss.这两个损失函数的目 的都是增加对分类影响较大 的数据点的权重 ,减少与分类关系较小 的数据点的权重。

(3) SVM的处理方 法是只考虑Support Vectors ,也就是和分类最相关的少数点 ,去学习分类器。 而逻辑回归通过 非 线性映射 ,大大 减小 了离分类平面 较远的点的权重 ,相对提升了与分类最相关的数据点的权重。

(4)逻辑回归相对来说模型更简单,好理解 ,特别是大 规模线性分类时比 较方 便。而SVM的理解和优化相对来说 复杂--- 些, SVM转化为对偶问题后,分类只需要计算与少数几 个支 持向量的距离,这个在进行 复杂核函数计算时优势 很明显,能够大大 简化模型和计算。

(5) Logic能做的SVM能做 ,但可能在准确率上有问题, SVM能做的Logic有的做不了。

相关推荐
少油少盐不要辣2 分钟前
前端如何处理AI模型返回的流数据
前端·javascript·人工智能
Jasmin Tin Wei2 分钟前
机器学习.聚类
机器学习
_abab2 分钟前
《大模型实战指南》—— 面向软件开发者的系统性入门
人工智能·语言模型
XianjianAI3 分钟前
先见AI新功能深度介绍:以可信AI重构研报解读,数据驱动决策快人一步
大数据·人工智能·信息可视化·数据分析·需求分析
IT_陈寒4 分钟前
Java21新特性实战:5个杀手级改进让你的开发效率提升40%
前端·人工智能·后端
天呐草莓5 分钟前
支持向量机(SVM)
人工智能·python·算法·机器学习·支持向量机·数据挖掘·数据分析
智算菩萨6 分钟前
【实战】基于机器学习的中文文本分类系统实现
机器学习·分类·文本分类
AI营销实验室7 分钟前
原圈科技AI CRM系统三步法驱动客户自动唤醒与精准营销增长
人工智能·科技
杜子不疼.7 分钟前
AI智能体:从技术原理到落地实践,重构智能协作新范式
人工智能·重构
不惑_9 分钟前
CNN:通俗理解卷积神经网络
人工智能·神经网络·cnn