人工智能学习:LR和SVM的联系与区别?

LR和SVM的联系与区别?

相同点:

(1) LR和SVM都可以处理分类问题 ,且--- 般都用于处理线性二 分类问题(在改进的情况下可以处理多分类问题)

(2)两个方 法都可以增加不同的正则化项 ,如L1、 L2等等。所以在很多实验中 ,两种算法的结果是很接近的。

区别:

(1) LR是参数模型, SVM是非参数模型。

(2)从目 标函数来看 ,区别在于逻辑回归采用 的是Logistical Loss ,SVM采用 的是hinge loss.这两个损失函数的目 的都是增加对分类影响较大 的数据点的权重 ,减少与分类关系较小 的数据点的权重。

(3) SVM的处理方 法是只考虑Support Vectors ,也就是和分类最相关的少数点 ,去学习分类器。 而逻辑回归通过 非 线性映射 ,大大 减小 了离分类平面 较远的点的权重 ,相对提升了与分类最相关的数据点的权重。

(4)逻辑回归相对来说模型更简单,好理解 ,特别是大 规模线性分类时比 较方 便。而SVM的理解和优化相对来说 复杂--- 些, SVM转化为对偶问题后,分类只需要计算与少数几 个支 持向量的距离,这个在进行 复杂核函数计算时优势 很明显,能够大大 简化模型和计算。

(5) Logic能做的SVM能做 ,但可能在准确率上有问题, SVM能做的Logic有的做不了。

相关推荐
言之。12 分钟前
【FastMCP】中间件
人工智能
说私域14 分钟前
IP新定义下的商业新范式:基于定制开发开源AI智能名片S2B2C商城小程序的IP价值变现研究
人工智能·tcp/ip·开源
小关会打代码29 分钟前
计算机视觉进阶教学之dlib库(二)
人工智能·计算机视觉
黄焖鸡能干四碗31 分钟前
企业信息化建设总体规划设计方案
大数据·运维·数据库·人工智能·web安全
种自己的花呀35 分钟前
leetcode 3 无重复字符的最长子串
算法·leetcode·职场和发展
GIS 数据栈1 小时前
重构地理信息软件老代码:实践记载之1
人工智能·重构
程序猿阿伟1 小时前
《用AI重构工业设备故障预警系统:从“被动维修”到“主动预判”的协作实践》
人工智能·重构
stjiejieto1 小时前
AI 重构实体经济:2025 传统产业转型的实践与启示
人工智能·重构
代码79721 小时前
使用会话存储时,处理存储信息加密问题
深度学习·算法·自动化·散列表·harmonyos
Coovally AI模型快速验证1 小时前
华为发布开源超节点架构,以开放战略叩响AI算力生态变局
人工智能·深度学习·神经网络·计算机视觉·华为·架构·开源