scikit-learn(简称 sklearn)是一个基于 Python
的机器学习库,广泛应用于数据挖掘和数据分析。它提供了各种分类、回归和聚类算法,以及工具用于模型选择和数据预处理。本文将详细介绍
sklearn 的基本使用方法和功能。
安装 scikit-learn
在使用 sklearn 之前,首先需要安装它。可以使用以下命令安装:
bash
pip install scikit-learn
确保你的 Python 环境中已经安装了 numpy 和 scipy,因为 sklearn 依赖于这两个库。
数据集
sklearn 自带了一些常用的数据集,例如波士顿房价数据集、鸢尾花数据集、手写数字数据集等。可以通过 sklearn.datasets
模块来加载这些数据集。
python
from sklearn.datasets import load_iris
# 加载鸢尾花数据集
iris = load_iris()
X, y = iris.data, iris.target
数据预处理
在进行机器学习建模之前,数据预处理是必不可少的。常见的预处理步骤包括标准化、归一化、缺失值填补等。sklearn 提供了 sklearn.preprocessing
模块来进行这些操作。
标准化
标准化可以使数据符合标准正态分布,即均值为0,标准差为1。
python
from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
归一化
归一化是将数据缩放到特定范围,通常是 [0, 1]。
python
from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
X_scaled = scaler.fit_transform(X)
划分数据集
在进行模型训练之前,需要将数据集划分为训练集和测试集。sklearn 提供了 train_test_split
函数来实现这一点。
python
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
构建模型
sklearn 提供了各种机器学习算法的实现,包括分类、回归、聚类等。以分类算法中的逻辑回归为例:
python
from sklearn.linear_model import LogisticRegression
model = LogisticRegression()
model.fit(X_train, y_train)
模型评估
在训练好模型后,需要对模型进行评估。常见的评估指标有准确率、精确率、召回率和 F1 分数等。
python
from sklearn.metrics import accuracy_score, classification_report
# 预测
y_pred = model.predict(X_test)
# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f"Accuracy: {accuracy}")
# 打印分类报告
print(classification_report(y_test, y_pred))
超参数调优
在实际应用中,模型的超参数对性能有很大的影响。sklearn 提供了网格搜索 (GridSearchCV
) 和随机搜索 (RandomizedSearchCV
) 来帮助找到最佳的超参数组合。
python
from sklearn.model_selection import GridSearchCV
# 定义参数网格
param_grid = {
'C': [0.1, 1, 10, 100],
'solver': ['lbfgs', 'liblinear']
}
# 网格搜索
grid_search = GridSearchCV(LogisticRegression(), param_grid, cv=5)
grid_search.fit(X_train, y_train)
# 最佳参数
print(f"Best parameters: {grid_search.best_params_}")
模型持久化
训练好的模型可以保存到磁盘,以便后续使用。sklearn 提供了 joblib
模块来实现模型的保存和加载。
python
import joblib
# 保存模型
joblib.dump(model, 'logistic_regression_model.pkl')
# 加载模型
loaded_model = joblib.load('logistic_regression_model.pkl')
示例项目:鸢尾花分类
结合以上内容,我们来完成一个完整的鸢尾花分类项目。
python
# 导入必要的库
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score, classification_report
import joblib
# 加载数据集
iris = load_iris()
X, y = iris.data, iris.target
# 数据预处理
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
# 划分数据集
X_train, X_test, y_train, y_test = train_test_split(X_scaled, y, test_size=0.2, random_state=42)
# 构建模型
model = LogisticRegression()
model.fit(X_train, y_train)
# 预测
y_pred = model.predict(X_test)
# 评估
accuracy = accuracy_score(y_test, y_pred)
print(f"Accuracy: {accuracy}")
print(classification_report(y_test, y_pred))
# 模型持久化
joblib.dump(model, 'logistic_regression_model.pkl')
通过上述步骤,我们完成了一个简单的机器学习项目,涵盖了数据预处理、模型构建、模型评估和模型持久化等步骤。希望通过这篇教程,你能对 sklearn 有一个基本的了解,并能应用到实际项目中。