机器学习笔记(三)-模型评估与选择后半部分

1、性能度量

定义:衡量模型泛化能力的评价标准。

结果:不取决于算法和数据,取决于任务需求。

1.1 回归任务常用的性能度量:

均方误差

1.2 分类任务常用的性能度量:

1.2.1 错误率、精度:适用于二分类和多分类任务(关注错判的概率)

1.2.2 查准率、查全率 :关注正确的多少被选出,可以构建查准率-查全率曲线,简称P-R曲线,查准率=查全率时的点称为平衡点(BEP,目前有很多更简化的度量方法),当存在多个二分类混淆矩阵时,可以用宏查准率和宏查全率。

ps:混淆矩阵,根据分类情况划分,真正例、假正例、真反例、假反例。

1.2.3 ROC和AUC:

**ROC曲线:**综合考虑学习器在不同任务下的期望泛化性能好坏,或者说,一般性能的好坏(很多学习器为测试样本产生一个实值或者概率预测,并将其与阈值进行比较,确定正反类,实值或者概率预测决定学习器的泛化能力,据此,可以将样例排序,根据不同任务利用截断点划分样本)

**AUC:**在两条ROC曲线交叉情况下,利用AUC方法,即比较ROC曲线下的面积

1.2.4 代价敏感错误率和代价曲线:

真实任务存在非均等代价,不同错误造成的后果不同,且希望总体代价最小,代价曲线可以反应学习器的期望总体代价。

2、比较检验

我们想要比较的泛化性能,但是实验评估得到的是在测试集上的性能,两者未必相同,且测试集上的性能跟测试集本身的选择有很大的关系。

2.1 假设检验

2.2 交叉检验t检验

2.3 McNemar检验

2.4 Friedman和Nemenyi检验

2.5 偏差与方差

相关推荐
神马行空40 分钟前
一文解读DeepSeek大模型在政府工作中具体的场景应用
人工智能·大模型·数字化转型·deepseek·政务应用
合合技术团队42 分钟前
实测对比|法国 AI 独角兽公司发布的“最强 OCR”,实测效果如何?
大数据·人工智能·图像识别
不要影响我叠Q1 小时前
《Fundamentals of Electromigration-Aware IntegratedCircuit Design》笔记
笔记
蒹葭苍苍8731 小时前
LoRA、QLoRA微调与Lama Factory
人工智能·笔记
蹦蹦跳跳真可爱5891 小时前
Python----机器学习(基于PyTorch的线性回归)
人工智能·pytorch·python·机器学习·线性回归
mosquito_lover11 小时前
矿山边坡监测预警系统设计
人工智能·python·深度学习·神经网络·视觉检测
契合qht53_shine1 小时前
OpenCV 从入门到精通(day_03)
人工智能·opencv·计算机视觉
吴梓穆1 小时前
UE5学习笔记 FPS游戏制作33 换子弹 动画事件
笔记·学习·ue4
2401_884810741 小时前
Spring-MVC笔记上(上)
笔记·spring·mvc
吴梓穆1 小时前
UE5学习笔记 FPS游戏制作31 显示计分板
笔记·学习·ue4