边写代码边学习之Pycaret

PyCaret 简介

PyCaret 是一个用于简化 Python 机器学习工作流程的开源库。它提供了一个高级、低代码的接口，用于自动化机器学习流程的各个方面，使数据科学家和分析师更容易构建和部署机器学习模型。PyCaret 的一些关键特点和用途包括：

自动化机器学习 (AutoML)：PyCaret 可以自动化机器学习中许多繁琐和耗时的任务，如数据预处理、特征选择、超参数调整、模型选择和评估。
简化的工作流程：它提供了一致性和有组织的工作流程，允许用户仅需几行代码执行常见的机器学习任务。
模型选择：PyCaret 支持多种机器学习算法，帮助用户快速比较和选择最适合特定任务的模型。
超参数调整：它自动化了超参数调整的过程，帮助用户找到模型的最佳超参数。
模型评估：PyCaret 提供全面的模型评估和比较指标，帮助用户了解模型的性能，并做出明智的决策。
数据预处理：它自动化了数据预处理步骤，如缺失值填补、分类编码和特征缩放。
可视化：PyCaret 提供各种可视化工具，帮助用户探索数据、理解模型性能，并做出数据驱动的决策。
模型部署：它允许用户轻松将机器学习模型部署到生产环境，因此适用于创建端到端的机器学习流水线。
异常检测：PyCaret 还包括异常检测功能，有助于在数据集中检测异常值。
自然语言处理 (NLP)：它支持自然语言处理任务，使其适用于各种机器学习应用。

PyCaret 特别适用于希望快速尝试不同机器学习模型和技术，而不必为每个步骤编写大量代码的数据科学家和分析师。它旨在减少构建和部署机器学习模型所需的时间和工作量，因此在数据科学和机器学习社区中是一项有价值的工具。

示例代码(Classification)

1. setup

该函数初始化训练环境并创建转换管道。设置函数必须在执行任何其他函数之前调用。它需要两个必需参数：数据和目标。所有其他参数都是可选的。

复制代码

import pandas as pd
from pycaret.datasets import get_data

pd.set_option('display.max_columns', None)
data = get_data('diabetes')

PyCaret 3.0 有两个 API。您可以根据自己的喜好选择其中之一。功能与实验结果一致。

Functional API

复制代码

from pycaret.classification import *
s = setup(data, target = 'Class variable', session_id = 123)

OOP API

复制代码

from pycaret.classification import ClassificationExperiment
s = ClassificationExperiment()
s.setup(data, target = 'Class variable', session_id = 123)

2. Compare Models

该函数使用交叉验证来训练和评估模型库中所有可用估计器的性能。该函数的输出是具有平均交叉验证分数的评分网格。可以使用 get_metrics 函数访问 CV 期间评估的指标。可以使用 add_metric 和 remove_metric 函数添加或删除自定义指标。

复制代码

# functional API
best = compare_models()

复制代码

# OOP API
best = s.compare_models()

3. Analyze Model

该函数分析训练模型在测试集上的性能。在某些情况下可能需要重新训练模型。

复制代码

# functional API
evaluate_model(best)

复制代码

# OOP API
s.evaluate_model(best)

evaluate_model 只能在 Notebook 中使用，因为它使用 ipywidget 。您还可以使用plot_model函数单独生成图。

复制代码

# functional API
plot_model(best, plot = 'auc')

# OOP API
s.plot_model(best, plot = 'auc')

复制代码

# functional API
plot_model(best, plot = 'confusion_matrix')

# OOP API
s.plot_model(best, plot = 'confusion_matrix')

4. Predictions

该函数对数据进行评分并返回预测类别的prediction_label和prediction_score概率）。当数据为 None 时，它预测测试集上的标签和分数（在设置函数期间创建）。

复制代码

# functional API
predict_model(best)

# OOP API
s.predict_model(best)

评估指标是在测试集上计算的。第二个输出是 pd.DataFrame，其中包含对测试集的预测（请参阅最后两列）。要在未见过的（新）数据集上生成标签，只需将数据集传递到 Predict_model 函数下的 data 参数中即可。

复制代码

# functional API
predictions = predict_model(best, data=data)
predictions.head()

# OOP API
predictions = s.predict_model(best, data=data)
predictions.head()

分数表示预测类别（不是正类）的概率。如果prediction_label为0且prediction_score为0.90，这意味着类0的概率为90%。如果您想查看这两个类的概率，只需在predict_model函数中传递raw_score=True即可。

复制代码

# functional API
predictions = predict_model(best, data=data, raw_score=True)
predictions.head()

# OOP API
predictions = s.predict_model(best, data=data, raw_score=True)
predictions.head()

5. Save the model

复制代码

# functional API
save_model(best, 'my_best_pipeline')

# OOP API
s.save_model(best, 'my_best_pipeline')

6. To load the model back in environment:

复制代码

# functional API
loaded_model = load_model('my_best_pipeline')
print(loaded_model)

# OOP API
loaded_model = s.load_model('my_best_pipeline')
print(loaded_model)

遇到的错误

在mac电脑上，安装pycaret的时候遇到问题 "Could not build wheels for lightgbm, which is required to install pyproject.toml-based projects"

note: This error originates from a subprocess, and is likely not a problem with pip.

ERROR: Failed building wheel for lightgbm

Failed to build lightgbm

ERROR: Could not build wheels for lightgbm, which is required to install pyproject.toml-based projects

解决方法

先运行brew install libomp, 再安装pip install pycaret

2. lib_lightgbm.so' (mach-o file, but is an incompatible architecture (have (x86_64), need (arm64e))

解决方法：

复制代码

conda install \
   --yes \
   -c conda-forge \
   'lightgbm>=3.3.3'

python - Is LightGBM available for Mac M1? - Stack Overflow