分类问题的评价指标

一、logistic regression

logistic regression也叫做对数几率回归。虽然名字是回归,但是不同于linear regression,logistic regression是一种分类学习方法。

同时在深度神经网络中,有一种线性层的输出也叫做logistic,他是被输入到激活函数中的输入如下图所示。

Softmax和sigmoid的输出不同,sigmoid输出的是每一个种类成为

二、分类算法的评价指标 <分类算法评价指标详解 - 知乎>

首先,机器学习分类任务的常用评价指标:混淆矩阵(Confuse Matrix)、准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1 Score、P-R曲线(Precision-Recall Curve)、ROC、AUC。

混淆矩阵:每行显示样本预测到的值,列显示标签的值。针对一个二分类问题,可以将其分为四种

TP:True Positive 表示真的正类

TN:True Negative 真的负类

FP:False Positive 假的正类

FN:False Negative 假的负类 这些都可以从混淆矩阵中得出。

1.准确率 Accuracy

Acc=(TP+TN)/(TP+TN+FP+FN)

预测结果中的所有预测争取的类别比左右的预测结果。即混淆矩阵对角元素和所有元素的比值。

准确率有一个缺点,就是数据的样本不均衡,这个指标是不能评价模型的性能优劣的。

假如一个测试集有正样本99个,负样本1个。模型把所有的样本都预测为正样本,那么模型的Accuracy为99%,看评价指标,模型的效果很好,但实际上模型没有任何预测能力。

2.精确度precision

在模型预测为正样本的结果中,真正是正样本所占的百分比,具体公式如下:

Pre = TP / (TP+TF)

在预测为正样本的结果中,真的正样品的占比。

3.召回率recall

在实际正样本中,预测为真的正样本占所有正样本的比值

Recall= TP / (TP+TN)

4.F1 sore

Recall和precision之间会有一个此消彼长的关系,如果要兼顾二者,就需要F1 Score,F1 Score是一种调和平均数。

F1 Score = (2*Pre*Recall)/ (Pre+Recall)

同时还有一种,P-R曲线(precision -Recall)描述精确率和召回率变化。

模型与坐标轴围成的面积越大,则模型的性能越好。但一般来说,曲线下的面积是很难进行估算的,所以衍生出了"平衡点"(Break-Event Point,简称BEP),即当P=R时的取值,平衡点的取值越高,性能更优。

线性回归模型和logistic回归模型

相关推荐
_小雨林2 小时前
(UPDATING)LLM微调之实战,SFTTrainer官方案例、LoRA/QloRA微调案例、Unsloth、分布式训练、LLaMA Factory
人工智能·深度学习
xiaotao1313 小时前
03-深度学习基础:循环神经网络(RNN)
人工智能·深度学习·机器学习
ZPC82103 小时前
fanuc 机器人通过PR寄存器实现轨迹控制
人工智能·算法·计算机视觉·机器人
小糖学代码4 小时前
LLM系列:2.pytorch入门:3.基本优化思想与最小二乘法
人工智能·python·算法·机器学习·ai·数据挖掘·最小二乘法
叶子丶苏4 小时前
第二节_机器学习基本知识点
人工智能·python·机器学习·数据科学
今日说"法"5 小时前
数值计算与浮点误差:深度学习中梯度崩溃的数学根源与归一化对策
人工智能·深度学习
LaughingZhu5 小时前
Product Hunt 每日热榜 | 2026-04-21
人工智能·经验分享·深度学习·神经网络·产品运营
DeepModel5 小时前
特征缩放(标准化/归一化)超通俗讲解
机器学习
keineahnung23456 小时前
PyTorch 張量尺寸為 1 時,步長為何不具語意?
人工智能·pytorch·python·深度学习
AI人工智能+6 小时前
文档抽取系统结合OCR技术与大语言模型,有效解决档案数字化与知识化利用之间的矛盾
人工智能·计算机视觉·ocr·文档抽取