机器学习——逻辑回归ROC练习

一、

题目要求:

给定以下二分类模型的预测结果,手动绘制ROC曲线并计算AUC值:

y_true = [0, 1, 0, 1, 0, 1] # 真实标签(0=负类,1=正类)

y_score = [0.2, 0.7, 0.3, 0.6, 0.1, 0.8] # 模型预测得分

代码展示:

python 复制代码
import matplotlib.pyplot as plt
from sklearn.metrics import roc_curve

y_true = [0,1,0,1,0,1]
y_score = [0.2,0.7,0.3,0.6,0.1,0.8]

fpr,tpr,_ = roc_curve(y_true,y_score)

plt.figure(figsize=(8,9))
plt.plot(fpr,tpr,color="b")
plt.plot([0,1],[0,1],color="r",linestyle="--")
plt.xlabel("fpr")
plt.ylabel("tpr")
plt.grid()
plt.show()

结果展示:

二、

题目要求

处理有相同预测得分的情况:

y_true = [1, 0, 0, 1, 1, 0, 1, 0]

y_score = [0.8, 0.5, 0.5, 0.7, 0.6, 0.5, 0.9, 0.3]

代码展示:

python 复制代码
import matplotlib.pyplot as plt
from sklearn.metrics import roc_curve

y_true = [1, 0, 0, 1, 1, 0, 1, 0]
y_score = [0.8, 0.5, 0.5, 0.7, 0.6, 0.5, 0.9, 0.3]

fpr,tpr,_ = roc_curve(y_true,y_score)

plt.figure(figsize=(8,9))
plt.plot(fpr,tpr,color="b")
plt.plot([0,1],[0,1],color="r",linestyle="--")
plt.xlabel("fpr")
plt.ylabel("tpr")
plt.grid()
plt.show()

结果展示:

三、

题目背景

在信用卡欺诈检测中,正常交易(负类)远多于欺诈交易(正类)。给定以下模拟数据:

y_true = [0, 0, 0, 0, 0, 0, 1, 0, 1, 0] # 2个欺诈(正类),8个正常(负类)

y_score = [0.1, 0.2, 0.15, 0.05, 0.3, 0.25, 0.9, 0.4, 0.6, 0.1] # 模型输出的欺诈概率

题目要求

  1. 手动计算所有(FPR, TPR)点
  2. 绘制ROC曲线
  3. 观察类别不平衡对曲线形状的影响

代码展示:

python 复制代码
import matplotlib.pyplot as plt
from sklearn.metrics import roc_curve

y_true = [0, 0, 0, 0, 0, 0, 1, 0, 1, 0]  # 2个欺诈(正类),8个正常(负类)
y_score = [0.1, 0.2, 0.15, 0.05, 0.3, 0.25, 0.9, 0.4, 0.6, 0.1]  # 模型输出的欺诈概率

fpr,tpr,_ = roc_curve(y_true,y_score)

plt.figure(figsize=(8,9))
plt.plot(fpr,tpr,color="b")
plt.plot([0,1],[0,1],color="r",linestyle="--")
plt.xlabel("fpr")
plt.ylabel("tpr")
plt.grid()
plt.show()

结果展示:

四、

使用Kaggle上的"Pima Indians Diabetes Database"数据集来进行逻辑回归的练习。该数据集的链接如下:Pima Indians Diabetes Database

‌练习场景描述‌:

你是一家医疗机构的数据分析师,你的任务是分析Pima Indians Diabetes Database数据集,以预测患者是否患有糖尿病。数据集包含了一系列与患者健康相关的指标,如怀孕次数、葡萄糖浓度、血压等。你需要使用逻辑回归模型来训练一个分类器,以根据这些指标预测患者是否患有糖尿病。

‌具体步骤‌:

  1. 使用pandas库加载数据集,并进行初步的数据探索,了解数据集的字段和分布情况。
  2. 对数据进行预处理,包括处理缺失值、标准化或归一化特征值等。
  3. 使用numpy库进行特征选择或特征工程,以提高模型的性能。
  4. 划分训练集和测试集,使用训练集训练逻辑回归模型,并使用测试集评估模型的性能。
  5. 使用matplotlib库绘制ROC曲线或混淆矩阵,以直观展示模型的分类效果。
  6. 根据评估结果调整模型的参数,以提高模型的性能。

‌题目‌:

基于上述练习场景,请完成以下任务:

  1. 加载Pima Indians Diabetes Database数据集,并进行初步的数据探索。
  2. 对数据进行预处理,包括处理缺失值和标准化特征值。
  3. 使用逻辑回归模型进行训练,并评估模型的性能。
  4. 绘制ROC曲线,展示模型的分类效果。
  5. 根据你的理解,提出至少一个改进模型性能的方法,并尝试实现。

代码展示:

python 复制代码
import matplotlib.pyplot as plt
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import roc_curve
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.preprocessing import StandardScaler

df = pd.read_csv("./data/diabetes.csv",encoding="utf-8")
print(df.head())
print(df.shape)

df = df.dropna(axis=0)

x = df.drop("Outcome",axis=1)
y = df["Outcome"]

x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.2,random_state=22)

transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.fit_transform(x_test)

estimator = LogisticRegression()
estimator.fit(x_train,y_train)

y_predict = estimator.predict(x_test)
print("预测值和真实的对比:",y_predict == y_test)

ret = estimator.score(x_test,y_test)
print("准确率:",ret)

y_pred_proba = estimator.predict_proba(x_test)[:, 1]
fpr, tpr, thresholds = roc_curve(y_test, y_pred_proba)

plt.figure(figsize=(8,9))
plt.plot(fpr,tpr,color="b")
plt.plot([0,1],[0,1],color="r",linestyle="--")
plt.xlabel("fpr")
plt.ylabel("tpr")
plt.grid()
plt.show()

param_grid = {
    'C': [0.1, 1, 10, 100],
    'penalty': ['l1', 'l2'],
    'solver': ['liblinear', 'saga']
}
grid_search = GridSearchCV(LogisticRegression(), param_grid, cv=5)
grid_search.fit(x_train, y_train)

best_estimator = grid_search.best_estimator_
best_ret = best_estimator.score(x_test, y_test)
print("调整参数后模型的准确率:", best_ret)

结果展示:

python 复制代码
预测值和真实的对比: 645    False
767     True
31      True
148    False
59      True
       ...  
30      True
158     True
167     True
582    False
681     True
Name: Outcome, Length: 154, dtype: bool
准确率: 0.7402597402597403
调整参数后模型的准确率: 0.7402597402597403
相关推荐
鲸临城下3 分钟前
R-CNN 模型算法流程梳理
人工智能·深度学习·算法·目标检测·目标跟踪·cnn·r-cnn
池央12 分钟前
调用蓝耘Maas平台大模型API打造个人AI助理实战
人工智能·语言模型·自然语言处理
羑悻的小杀马特18 分钟前
K 值选对,准确率翻倍:KNN 算法调参的黄金法则
算法·机器学习
audyxiao00128 分钟前
AAAI 2025论文分享│STD-PLM:基于预训练语言模型的时空数据预测与补全方法
人工智能·计算机·语言模型·自然语言处理·预训练·时空预测·注意力模块
vijaycc38 分钟前
python学习打卡day40
人工智能·深度学习·机器学习
阿巴阿阿巴巴巴巴40 分钟前
【深度学习相关安装及配环境】Anaconda搭建虚拟环境并安装CUDA、cuDVV和对应版本的Pytorch,并在jupyter notebook上部署
人工智能·pytorch·python·深度学习·jupyter·cuda
deephub43 分钟前
Jupyter MCP服务器部署实战:AI模型与Python环境无缝集成教程
人工智能·python·jupyter·大语言模型·mcp
李昊哲小课1 小时前
脱发因素机器学习数据分析
人工智能·机器学习·数据分析·scikit-learn
焦耳加热1 小时前
多元素纳米颗粒:开启能源催化新纪元
人工智能·自动化·能源·材料工程
让学习成为一种生活方式1 小时前
从翻译后修饰角度解析人工合成途径与底盘细胞的适配性-文献精读136
人工智能