1、性能度量
定义：衡量模型泛化能力的评价标准。
结果：不取决于算法和数据，取决于任务需求。
1.1 回归任务常用的性能度量：
均方误差
1.2 分类任务常用的性能度量：
1.2.1 错误率、精度：适用于二分类和多分类任务（关注错判的概率）
1.2.2 查准率、查全率 ：关注正确的多少被选出，可以构建查准率-查全率曲线，简称P-R曲线，查准率=查全率时的点称为平衡点（BEP，目前有很多更简化的度量方法），当存在多个二分类混淆矩阵时，可以用宏查准率和宏查全率。
ps:混淆矩阵，根据分类情况划分，真正例、假正例、真反例、假反例。
1.2.3 ROC和AUC：
**ROC曲线：**综合考虑学习器在不同任务下的期望泛化性能好坏，或者说，一般性能的好坏（很多学习器为测试样本产生一个实值或者概率预测，并将其与阈值进行比较，确定正反类，实值或者概率预测决定学习器的泛化能力，据此，可以将样例排序，根据不同任务利用截断点划分样本）
**AUC：**在两条ROC曲线交叉情况下，利用AUC方法，即比较ROC曲线下的面积
1.2.4 代价敏感错误率和代价曲线：
真实任务存在非均等代价，不同错误造成的后果不同，且希望总体代价最小，代价曲线可以反应学习器的期望总体代价。
2、比较检验
我们想要比较的泛化性能，但是实验评估得到的是在测试集上的性能，两者未必相同，且测试集上的性能跟测试集本身的选择有很大的关系。
2.1 假设检验
2.2 交叉检验t检验
2.3 McNemar检验
2.4 Friedman和Nemenyi检验
2.5 偏差与方差