Logistics 逻辑回归概念

1. sigmoid函数

逻辑回归算法的拟合函数,叫做sigmoid函数:

函数图像如下(百度图片搜到的图):

sigmoid函数是一个s形曲线,就像是阶跃函数的温和版,阶跃函数在0和1之间是突然的起跳,而sigmoid有个平滑的过渡。

从图形上看,sigmoid曲线就像是被掰弯捋平后的线性回归直线,将x轴的取值范围(-无穷,+无穷)映射到函数值y的(0,1)之间,更适宜表示预测的概率,即事件发生的"可能性" 。

2. 逻辑回归 出现 的场景

2.1 研究 线性回归

当我们研究相关性的时候,经常遇到线性关系,y与x为连续性变量,建立多元线性回归模型。

​​​​​​​2.2 遇到离散或者分类算法

有时候我们不是研究线性关系,而是研究是否取到红球,是否会变胖,是否会下单这样的分类或者离散问题。y为0/1离散变量时,不连续,上面的线性方程右侧是连续型,左侧现在变成离散型,无法建立线形回归模型。因此需要对方程进行logistic变化,或者叫做logistic映射。

​​​​​​​2.3 logistic映射

利用sigmoid函数,将上面的公式进行logistic映射:

  1. 理解sigmoid函数:当z取值越大,无穷大,越小,y越接近于1,反之,越接近于0。
  2. 理解带入z后的sigmoid函数:右侧是一个关于x的线性函数,x在(-无穷,+无穷)之间任意取值;左侧y是关于x的函数值,可以映射到[0,1]之间,也就是说我们现在利用逻辑回归将线性函数和分类/离散之间的关系解决了。
  3. 理解变形后的函数:根据上一篇最大似然估计,变形后的函数公式有利于去参数β

3. 逻辑回归的概念

多重线性回归模型要求因变量是连续型的正态分布变量,且自变量与因变量呈线性关系。当因变量是分类变量,且自变量与因变量不呈线性关系时 ,就不能确足多重线性回归模型的适用条件。此时,处理该类问题常用Logistic回归模型 。Logistic回归分析属于非线性回归,它是研究因变量为二项分类或多项分类结果与某些影响因素之间关系的一种多重回归分析方法。

Logistic Regression 虽然被称为回归,但其实际上是分类模型,并常用于二分类。Logistic 回归的本质是:假设数据服从这个分布,然后使用极大似然估计做参数的估计。

本文用易于理解的方式介绍逻辑回归的概念,希望了解更多的推荐阅读 【机器学习】逻辑回归(非常详细) - 知乎

参考文档:

逻辑回归和优势比:大厂数据分析高频面试-逻辑回归和优势比2

最大似然和Logistics: 用人话讲明白逻辑回归Logistic regression - 知乎

logistics:【机器学习】逻辑回归(非常详细) - 知乎

logistics:经典Logistic回归:原理、计算步骤以及应用 - 知乎

相关推荐
生信碱移9 小时前
PACells:这个方法可以鉴定疾病/预后相关的重要细胞亚群,作者提供的代码流程可以学习起来了,甚至兼容转录组与 ATAC 两种数据类型!
人工智能·学习·算法·机器学习·数据挖掘·数据分析·r语言
哥布林学者10 小时前
深度学习进阶(十三)可变形卷积 DCN
机器学习·ai
AI自动化工坊12 小时前
Hugging Face ml-intern技术深度解析:AI机器学习工程师的工程实践
人工智能·机器学习·huggingface·ml-intern·ai机器学习
AI手记叨叨12 小时前
机器学习可解释性工具SHAP
机器学习·shap
高洁0113 小时前
大模型部署资源不足?轻量化部署解决方案
python·深度学习·机器学习·数据挖掘·transformer
折哥的程序人生 · 物流技术专研14 小时前
从“卡死”到“秒过”:WMS销售数据跨库回填的极限优化之旅
数据库·机器学习·oracle
ClkLog-开源埋点用户分析14 小时前
在信创环境下,如何判断一套用户行为分析系统是否“真正可用”?
数据分析·开源·开源软件·用户画像·埋点系统
the sun3415 小时前
概率论:随机变量的定义、常见离散型、连续型随机变量
概率论
SelectDB15 小时前
Doris & SelectDB for AI 实战:从基础 RAG 到知识图谱增强的完整实现
数据库·人工智能·数据分析
我是发哥哈16 小时前
主流AI框架生产环境性能对比:5大关键维度深度评测
大数据·人工智能·学习·机器学习·ai·chatgpt·ai-native