(四)机器学习---逻辑回归及其Python实现

之前我们提到了常见的任务和算法,本篇我们使用逻辑回归 来进行分类

分类问题 回归问题 聚类问题 各种复杂问题
决策树√ 线性回归√ K-means√ 神经网络√
逻辑回归√ 岭回归 密度聚类 深度学习√
集成学习√ Lasso回归 谱聚类 条件随机场
贝叶斯 层次聚类 隐马尔可夫模型
支持向量机 高斯混合聚类 LDA主题模型

目录

一.分类问题

二.逻辑回归的基本原理

(1)逻辑回归

(2)逻辑回归模型的参数学习

(3)逻辑回归模型的决策边界

(4)应用案例:银行贷款审批

(5)小结

三.基于Scikit-learn实现逻辑回归

(1)Python支持的逻辑回归实现

(2)逻辑回归应用案例实现

(3)用逻辑回归实现多元分类

(4)机器学习一般流程总结

四.分类模型的性能评估

(1)平衡问题分类模型的性能评估

(2)非平衡问题分类模型的性能评估

(3)小结


一.分类问题

分类是将样本划分到已知的目标类中。它从数据中学习一个分类决策函数或分类模型(也称为分类器classifier),判断新的未知数据的类别 。分类问题的目标不是连续值,而是有限个离散值,即类别。

这时我们想知道,线性回归的方法可以解决我们的分类问题吗?

但是如果点的分布更复杂,如右下角又多出一些点(图3),从图中看原来的分割线依然有效。但新的回归训练得到的分割线将如图4紫色线所示。已有的点有明显的分类错误,无法在现有训练集上得到好的线性分类函数。

所以我们需要一个分类算法来处理这类问题,也就是我们的逻辑回归


二.逻辑回归的基本原理

(1)逻辑回归

逻辑回归是一种监督学习算法。通过对有标记的样本数据进行学习,获得一个二分类决策函数,用来预测未知数据的类别。

sigmoid函数可以将负无穷到正无穷的自变量的值得计算结果,映射到0到1的值

所以说先线性回归再逻辑回归,最后再进行判断的决策。

(2)逻辑回归模型的参数学习

(3)逻辑回归模型的决策边界

而这里的b+w1x1+w2x2 = 0,就是可以看作进行逻辑学习后得到的决策边界。

(4)应用案例:银行贷款审批

(5)小结


三.基于Scikit-learn实现逻辑回归

(1)Python支持的逻辑回归实现

(2)逻辑回归应用案例实现

(3)用逻辑回归实现多元分类

(4)机器学习一般流程总结


四.分类模型的性能评估

(1)平衡问题分类模型的性能评估

接下来我们用代码来实现 :

(2)非平衡问题分类模型的性能评估

(3)小结

相关推荐
今天没有盐2 分钟前
Python数据分析实战:从超市销售到教学评估
python·pycharm·编程语言
ziwu18 分钟前
【民族服饰识别系统】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积网络+resnet50算法
人工智能·后端·图像识别
ziwu32 分钟前
【卫星图像识别系统】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积网络+resnet50算法
人工智能·tensorflow·图像识别
ISACA中国38 分钟前
ISACA与中国内审协会共同推动的人工智能审计专家认证(AAIA)核心内容介绍
人工智能·审计·aaia·人工智能专家认证·人工智能审计专家认证·中国内审协会
ISACA中国1 小时前
《第四届数字信任大会》精彩观点:针对AI的攻击技术(MITRE ATLAS)与我国对AI的政策导向解读
人工智能·ai·政策解读·国家ai·风险评估工具·ai攻击·人工智能管理
Coding茶水间1 小时前
基于深度学习的PCB缺陷检测系统演示与介绍(YOLOv12/v11/v8/v5模型+Pyqt5界面+训练代码+数据集)
图像处理·人工智能·深度学习·yolo·目标检测·计算机视觉
地平线开发者1 小时前
征程 6 | linear 高精度输出配置方式
算法·自动驾驶
小尧嵌入式1 小时前
C++基础语法总结
开发语言·c++·stm32·单片机·嵌入式硬件·算法
绫语宁1 小时前
以防你不知道LLM小技巧!为什么 LLM 不适合多任务推理?
人工智能·后端
white-persist1 小时前
【攻防世界】reverse | IgniteMe 详细题解 WP
c语言·汇编·数据结构·c++·python·算法·网络安全