机器学习笔记(三)-模型评估与选择后半部分

1、性能度量

定义:衡量模型泛化能力的评价标准。

结果:不取决于算法和数据,取决于任务需求。

1.1 回归任务常用的性能度量:

均方误差

1.2 分类任务常用的性能度量:

1.2.1 错误率、精度:适用于二分类和多分类任务(关注错判的概率)

1.2.2 查准率、查全率 :关注正确的多少被选出,可以构建查准率-查全率曲线,简称P-R曲线,查准率=查全率时的点称为平衡点(BEP,目前有很多更简化的度量方法),当存在多个二分类混淆矩阵时,可以用宏查准率和宏查全率。

ps:混淆矩阵,根据分类情况划分,真正例、假正例、真反例、假反例。

1.2.3 ROC和AUC:

**ROC曲线:**综合考虑学习器在不同任务下的期望泛化性能好坏,或者说,一般性能的好坏(很多学习器为测试样本产生一个实值或者概率预测,并将其与阈值进行比较,确定正反类,实值或者概率预测决定学习器的泛化能力,据此,可以将样例排序,根据不同任务利用截断点划分样本)

**AUC:**在两条ROC曲线交叉情况下,利用AUC方法,即比较ROC曲线下的面积

1.2.4 代价敏感错误率和代价曲线:

真实任务存在非均等代价,不同错误造成的后果不同,且希望总体代价最小,代价曲线可以反应学习器的期望总体代价。

2、比较检验

我们想要比较的泛化性能,但是实验评估得到的是在测试集上的性能,两者未必相同,且测试集上的性能跟测试集本身的选择有很大的关系。

2.1 假设检验

2.2 交叉检验t检验

2.3 McNemar检验

2.4 Friedman和Nemenyi检验

2.5 偏差与方差

相关推荐
这个男人是小帅7 分钟前
【GAT】 代码详解 (1) 运行方法【pytorch】可运行版本
人工智能·pytorch·python·深度学习·分类
__基本操作__9 分钟前
边缘提取函数 [OPENCV--2]
人工智能·opencv·计算机视觉
Doctor老王13 分钟前
TR3:Pytorch复现Transformer
人工智能·pytorch·transformer
热爱生活的五柒13 分钟前
pytorch中数据和模型都要部署在cuda上面
人工智能·pytorch·深度学习
静止了所有花开1 小时前
SpringMVC学习笔记(二)
笔记·学习
HyperAI超神经2 小时前
【TVM 教程】使用 Tensorize 来利用硬件内联函数
人工智能·深度学习·自然语言处理·tvm·计算机技术·编程开发·编译框架
扫地的小何尚4 小时前
NVIDIA RTX 系统上使用 llama.cpp 加速 LLM
人工智能·aigc·llama·gpu·nvidia·cuda·英伟达
红中马喽4 小时前
JS学习日记(webAPI—DOM)
开发语言·前端·javascript·笔记·vscode·学习
埃菲尔铁塔_CV算法6 小时前
深度学习神经网络创新点方向
人工智能·深度学习·神经网络
huangkj-henan6 小时前
DA217应用笔记
笔记