逻辑回归的含义

参考:线性回归 & 逻辑回归

问题

1、线性回归(Linear Regression)和逻辑回归(Logistic Regression)有什么联系?

2、逻辑回归的"逻辑"、"回归是什么意思"?

回答1

线性回归假设因变量和自变量之间是线性关系,一条直线。

线性回归常用的参数估计最小二乘法 ,期望找到一条直线,使样本点和直线的欧氏距离之和最小。

逻辑回归是广义线性回归中的一种以对数几率函数联系函数 的特例,使用的参数估计方法是极大似然法,通过最大化预测值属于实际值的概率来最小化预测值和实际值之间的"距离"。

线性回归和逻辑回归都是广义线性回归的特例,根据联系函数的不同,以不同的方式映射,如对数、指数。

线性回归没有联系函数或不起作用,逻辑回归的联系函数是对数几率函数,属于Sigmoid函数。

线性回归只能用于回归问题,逻辑回归用于分类问题(可由二分类推广至多分类)。

对于回归问题,最常用的度量标准就是均方差,均方差是指预测值和实际值之间的平均方差,平均方差越小,模型性能越优。

回答2

Logistic并非逻辑的意思,其语义来自Logarithm:对数。更好的翻译应该是"对数几率回归"。

对数几率回归的"回归"并非针对可以应用的问题,而是来自其父级:广义线性回归模型。对数几率回归之所以用于离散的分类而不是连续的回归,是因为它将本来连续的输出,通过对数几率函数,映射到了非线性的{0,1}空间上,所以它可以有效地解决二分类问题(甚至可推广至多分类)。

regression的前缀是恢复(recover)、重复(repeat)的意思,gress的意思是行走。

类似于均值回归,回归是一个过程,这个过程是为了找到最佳描述因变量和自变量关系的模型。

想象这样一个场景,一堆看似无规律的数据在你的图像上肆无忌惮的乱走,我们要做的是找出其中的规律模型,把他们行走的趋势和轨迹"重新组合起来"。

相关推荐
在猴站学算法2 小时前
机器学习(西瓜书) 第二章 模型评估与选择
人工智能·机器学习
Tiandaren4 小时前
Selenium 4 教程:自动化 WebDriver 管理与 Cookie 提取 || 用于解决chromedriver版本不匹配问题
selenium·测试工具·算法·自动化
岁忧5 小时前
(LeetCode 面试经典 150 题 ) 11. 盛最多水的容器 (贪心+双指针)
java·c++·算法·leetcode·面试·go
chao_7895 小时前
二分查找篇——搜索旋转排序数组【LeetCode】两次二分查找
开发语言·数据结构·python·算法·leetcode
秋说7 小时前
【PTA数据结构 | C语言版】一元多项式求导
c语言·数据结构·算法
Maybyy7 小时前
力扣61.旋转链表
算法·leetcode·链表
卡卡卡卡罗特9 小时前
每日mysql
数据结构·算法
chao_7899 小时前
二分查找篇——搜索旋转排序数组【LeetCode】一次二分查找
数据结构·python·算法·leetcode·二分查找
lifallen10 小时前
Paimon 原子提交实现
java·大数据·数据结构·数据库·后端·算法
lixzest10 小时前
C++ Lambda 表达式详解
服务器·开发语言·c++·算法