逻辑回归的含义

参考:线性回归 & 逻辑回归

问题

1、线性回归(Linear Regression)和逻辑回归(Logistic Regression)有什么联系?

2、逻辑回归的"逻辑"、"回归是什么意思"?

回答1

线性回归假设因变量和自变量之间是线性关系,一条直线。

线性回归常用的参数估计最小二乘法 ,期望找到一条直线,使样本点和直线的欧氏距离之和最小。

逻辑回归是广义线性回归中的一种以对数几率函数联系函数 的特例,使用的参数估计方法是极大似然法,通过最大化预测值属于实际值的概率来最小化预测值和实际值之间的"距离"。

线性回归和逻辑回归都是广义线性回归的特例,根据联系函数的不同,以不同的方式映射,如对数、指数。

线性回归没有联系函数或不起作用,逻辑回归的联系函数是对数几率函数,属于Sigmoid函数。

线性回归只能用于回归问题,逻辑回归用于分类问题(可由二分类推广至多分类)。

对于回归问题,最常用的度量标准就是均方差,均方差是指预测值和实际值之间的平均方差,平均方差越小,模型性能越优。

回答2

Logistic并非逻辑的意思,其语义来自Logarithm:对数。更好的翻译应该是"对数几率回归"。

对数几率回归的"回归"并非针对可以应用的问题,而是来自其父级:广义线性回归模型。对数几率回归之所以用于离散的分类而不是连续的回归,是因为它将本来连续的输出,通过对数几率函数,映射到了非线性的{0,1}空间上,所以它可以有效地解决二分类问题(甚至可推广至多分类)。

regression的前缀是恢复(recover)、重复(repeat)的意思,gress的意思是行走。

类似于均值回归,回归是一个过程,这个过程是为了找到最佳描述因变量和自变量关系的模型。

想象这样一个场景,一堆看似无规律的数据在你的图像上肆无忌惮的乱走,我们要做的是找出其中的规律模型,把他们行走的趋势和轨迹"重新组合起来"。

相关推荐
nju_spy19 分钟前
周志华《机器学习导论》第8章 集成学习 Ensemble Learning
人工智能·随机森林·机器学习·集成学习·boosting·bagging·南京大学
呆呆的小鳄鱼20 分钟前
leetcode:冗余连接 II[并查集检查环][节点入度]
算法·leetcode·职场和发展
墨染点香20 分钟前
LeetCode Hot100【6. Z 字形变换】
java·算法·leetcode
沧澜sincerely21 分钟前
排序【各种题型+对应LeetCode习题练习】
算法·leetcode·排序算法
CQ_071221 分钟前
自学力扣:最长连续序列
数据结构·算法·leetcode
弥彦_37 分钟前
cf1925B&C
数据结构·算法
星座52840 分钟前
基于现代R语言【Tidyverse、Tidymodel】的机器学习方法与案例分析
机器学习·r语言·tidyverse·tidymodel
YuTaoShao1 小时前
【LeetCode 热题 100】994. 腐烂的橘子——BFS
java·linux·算法·leetcode·宽度优先
石迹耿千秋6 小时前
迁移学习--基于torchvision中VGG16模型的实战
人工智能·pytorch·机器学习·迁移学习
Wendy14419 小时前
【线性回归(最小二乘法MSE)】——机器学习
算法·机器学习·线性回归