机器学习—逻辑回归

一·介绍

逻辑回归是处理二分类问题的线性模型，通过sigmoid函数将线性输出映射到[0,1]，输出事件发生概率，广泛用于预测与分类。

如果做坐标的话，特征就是p1和p2，结果就是y红的与绿的

二·Sigma函数

代码说明

1. Sigmoid 函数定义：

   • sigmoid(x) 实现了 Sigmoid 公式：

2. 

-x可以看成y

逻辑回归模型原理示意：先由线性函数 (y = kx + b) 输出结果,的Sigmoid函数转换，将线性输出映射到0 - 1区间,把线性可分数据的分类问题，转化为用概率判断0或1类别的问题，简化分类求解 。

放出为方程，笔误抱歉改的时间成本很高，见谅

最终是为了求h（x）中的012

二·数学

逻辑回归

1·线性回归结果：

2·带入 sigmoid 函数：

3·对于二分类任务：

就表示sigmoid函数的另一个分类

4·整合

4这里的 y如果是红色的话应该是1那么右边的式子就是0消失了，反之如果是0绿色左边是1不影响结果所以是这样的原理

逻辑回归 - 求解

1·似然函数：

2·对数似然

3·转换为梯度下降任务（损失函数）

（1·最小二乘法求解极值2梯度下降也可以求极值）

4·目标函数这是逻辑回归（Logistic Regression）中的代价函数（Cost Function），也叫交叉熵损失函数（Cross - Entropy Loss） ，公式为：

这是关于 ** 梯度（Gradient）** 的数学定义：

• 实体信息为 "梯度" 的概念阐述，即梯度是函数全部偏导数构成的向量，其方向是函数值增长最快的方向 ，常用于机器学习、微积分等领域，指导函数优化（如梯度下降法找极值） 。