文章目录
线性回归模型的性能评估
评估线性回归模型时,首先要建立评估的测试数据集(测试集不能与训练集相同),然后选择合适的评估方法,实现对线性回归模型的评估。
回归任务中最常用的评估方法有均方误差、均方根误差和预测准确率(确定系数)。
1.举例1-单一特征
分别对两个模型进行评估,输入的测试集如表所示。
面积/(m2) | 售价/(万元) | 面积/(m2) | 售价/(万元) |
---|---|---|---|
103 | 301 | 115 | 344 |
90 | 275 | 89 | 276 |
60 | 206 | 70 | 210 |
50 | 160 | 45 | 124 |
55 | 190 | 78 | 235 |
python
#输入测试集
x_test=np.array([[103],[115],[90],[89],[60],[70],[50],[45],[55],[78]]) #房屋面积
y_test=np.array([[301],[344],[275],[276],[206],[210],[160],[124],[190],[235]]) #售价
#计算三个值
mse=np.average((y2-np.array(y))**2) #均方误差
rmse=np.sqrt(mse) #均方根误差
r2=model.score(x_test,y_test) #预测准确率
#输出三个值
print("均方误差为:",mse) #输出均方误差
print("均方根误差为:",rmse) #输出均方根误差
print("预测准确率为:",r2) #输出预测准确率
2.举例2-多特征
利用Sklearn中自带的数据集------糖尿病数据集训练一个模型,然后对这个模型进行评估。
python
#导入线性回归模型、糖尿病数据集及划分样本的方法
from sklearn.linear_model import LinearRegression
from sklearn.datasets import load_diabetes #导入糖尿病数据集
from sklearn.model_selection import train_test_split
#将数据集划分为训练集和测试集
x,y=load_diabetes().data,load_diabetes().target
x_train,x_test,y_train,y_test=train_test_split(x,y,random_state=8)
#train_test_split()函数用于将数据集划分为训练集和测试集,该函数默认把数据集的75%作为训练集,把数据集的25%作为测试集,也可使用test_size设置测试集所占的比例;
#random_state的值相当于一种规则,通过设定为相同的数值,每次划分样本时,分割的结果都相同。
#训练模型
model=LinearRegression()
model.fit(x_train,y_train)
#求解线性回归方程参数
print("w=",model.coef_,"b=",model.intercept_)
w= [ 11.51226671 -282.51443231 534.2084846 401.73037118
-1043.90460259 634.92891045 186.43568421 204.94157943
762.46336088 91.95399832] b= 152.5625670974632
从代码的运行结果可以看到,w的值有多个,说明数据集的维度有多个,数据集的复杂性很高。
python
#计算模型的预测准确率
r21=model.score(x_train,y_train) #计算模型在训练集上的预测准确率
r22=model.score(x_test,y_test) #计算模型在测试集上的预测准确率
#输出模型的预测准确率
print("模型在训练集上的预测准确率为:",r21)
print("模型在测试集上的预测准确率为:",r22)
该模型的预测准确率比二手房模型低了很多,在训练集上的预测准确率约为53%,而在测试集上的预测准确率只有约46%。在训练集与测试集的预测准确率之间存在很大差异,这是过拟合的表现。