如何使用PyCaret-低代码ML库(python 低代码)

以最少的代码训练,可视化,评估,解释和部署模型

阿莫尔·马夫杜鲁(Amol Mavuduru)

10分钟阅读

如何使用PyCaret-低代码ML库(python 低代码)

> Photo by Armando Arauz on Unsplash

当我们研究监督的机器学习问题时,如果我们对结果感到满意,那么很容易看到随机森林或梯度提升模型如何执行并停止实验。如果您仅用一行代码就可以比较许多不同的模型,该怎么办?如果您可以将数据科学过程的每个步骤(从功能工程到模型部署)减少到仅几行代码,该怎么办?

这正是PyCaret发挥作用的地方。PyCaret是一个高级,低代码的Python库,它使仅需几行代码即可轻松比较,训练,评估,调整和部署机器学习模型。从本质上讲,PyCaret基本上只是许多Scikit-learn,Yellowbrick,SHAP,Optuna和Spacy等数据科学库的大型包装。是的,您可以将这些库用于相同的任务,但是如果您不想编写大量代码,PyCaret可以节省大量时间。

在本文中,我将演示如何使用PyCaret快速轻松地构建机器学习项目并为部署准备最终模型。

安装PyCaret

PyCaret是一个具有很多依赖项的大型库。我建议使用Conda为PyCaret创建一个虚拟环境,这样安装不会影响您现有的任何库。要在Conda中创建和激活虚拟环境,请运行以下命令:

conda create --name pycaret_env python=3.6conda activate pycaret_env

要安装仅具有所需依赖项的默认较小版本的PyCaret,可以运行以下命令。

pip install pycaret

要安装完整版本的PyCaret,您应该运行以下命令。

pip install pycaret[full]

一旦安装了PyCaret,请停用虚拟环境,然后使用以下命令将其添加到Jupyter。

conda deactivatepython -m ipykernel install --user --name pycaret_env --display-name "pycaret_env"

现在,在浏览器中启动Jupyter Notebook之后,您应该能够看到将环境更改为刚创建的选项的选项。

如何使用PyCaret-低代码ML库(python 低代码)

> Changing the Conda virtual environment in Jupyter.

导入库

您可以在此GitHub存储库中找到本文的完整代码。在下面的代码中,我仅导入了Numpy和Pandas来处理此演示的数据。

import numpy as npimport pandas as pd

读取数据

对于此示例,我使用了Kaggle上可用的“加利福尼亚住房价格”数据集。在下面的代码中,我将此数据集读入一个数据框,并显示了该数据框的前十行。

housing_data = pd.read_csv('./data/housing.csv')housing_data.head(10)

如何使用PyCaret-低代码ML库(python 低代码)

> First ten rows of the housing dataset.

上面的输出使我们对数据的外观有所了解。数据主要包含数字特征和一个分类特征,用于每个房屋与海洋的接近度。我们试图预测的目标列是“ median_house_value”列。整个数据集总共包含20,640个观测值。

初始化实验

现在我们有了数据,我们可以初始化一个PyCaret实验,该实验将对数据进行预处理并为将在此数据集上训练的所有模型启用日志记录。

from pycaret.regression import *reg_experiment = setup(housing_data, target = 'median_house_value', session_id=123, log_experiment=True, experiment_name='ca_housing')

如下面的GIF中所示,运行上面的代码会对数据进行预处理,然后生成带有实验选项的数据框。

如何使用PyCaret-低代码ML库(python 低代码)

> Pycaret setup function output.

比较基准模型

我们可以立即比较不同的基线模型,以找到具有使用compare_models函数的最佳K折交叉验证性能的模型,如下面的代码所示。在下面的示例中,出于演示目的,我已将XGBoost排除在外。

best_model = compare_models(exclude=['xgboost'], fold=5)

如何使用PyCaret-低代码ML库(python 低代码)

> Results of comparing different models.

该函数将生成一个数据框,其中包含每个模型的性能统计信息,并突出显示性能最佳的模型的指标,在本例中为CatBoost回归器。

建立模型

我们还可以使用PyCaret在单行代码中训练模型。create_model函数仅需要一个与您要训练的模型类型相对应的字符串。您可以在PyCaret文档页面上找到此功能的可接受字符串的完整列表以及相应的回归模型。

catboost = create_model('catboost')

如何使用PyCaret-低代码ML库(python 低代码)

create_model函数使用训练后的CatBoost模型的交叉验证指标来生成上面的数据框。

超参数调整

现在我们有了训练有素的模型,我们可以通过超参数调整进一步优化它。只需一行代码,我们就可以调整该模型的超参数,如下所示。

tuned_catboost = tune_model(catboost, n_iter=50, optimize = 'MAE')

如何使用PyCaret-低代码ML库(python 低代码)

> Results of hyperparameter tuning with 10-fold cross-validation.

最重要的结果(在这种情况下为平均指标)以黄色突出显示。

可视化模型的性能

我们可以使用PyCaret创建许多图表,以可视化模型的性能。PyCaret使用另一个称为Yellowbrick的高级库来构建这些可视化文件。

残留图

默认情况下,plot_model函数将为回归模型生成残差图,如下所示。

plot_model(tuned_catboost)

如何使用PyCaret-低代码ML库(python 低代码)

> Residual plot for the tuned CatBoost model.

预测误差

通过创建预测误差图,我们还可以将预测值相对于实际目标值可视化。

plot_model(tuned_catboost, plot = 'error')

如何使用PyCaret-低代码ML库(python 低代码)

> Prediction error plot for the tuned CatBoost regressor.

上面的图特别有用,因为它为我们提供了CatBoost模型的R²系数的直观表示。在理想情况下(R²= 1),当预测值与实际目标值完全匹配时,此图将仅包含沿虚线的点。

功能重要性

我们还可以可视化模型的功能重要性,如下所示。

plot_model(tuned_catboost, plot = 'feature')

如何使用PyCaret-低代码ML库(python 低代码)

> Feature importance plot for the CatBoost regressor.

从上面的图可以看出,在预测房屋价格时,位数中位数是最重要的特征。由于此特征对应于房屋建造区域的中位数收入,因此此评估非常合理。在高收入地区建造的房屋可能比低收入地区的房屋贵。

使用所有图评估模型

我们还可以创建多个图,以使用validate_model函数评估模型。

evaluate_model(tuned_catboost)

如何使用PyCaret-低代码ML库(python 低代码)

> The interface created using the evaluate_model function.

解释模型

interpret_model函数是用于解释模型预测的有用工具。此函数使用一个称为SHAP的可解释机器学习库,我在下面的文章中介绍了该库。

仅需一行代码,我们就可以为模型创建一个SHAPE蜂群图。

interpret_model(tuned_catboost)

如何使用PyCaret-低代码ML库(python 低代码)

> SHAP plot produced by calling the interpret_model function.

根据上面的图,我们可以看到中位数收入字段对预测房屋价值的影响最大。

自动机器学习

PyCaret还具有运行自动机器学习(AutoML)的功能。我们可以指定我们要优化的损失函数或度量,然后让库接管如下所示。

automl_model = automl(optimize = 'MAE')

在此示例中,AutoML模型也恰好是CatBoost回归变量,我们可以通过打印出该模型进行确认。

print(automl_model)

运行上面的print语句将产生以下输出:

<catboost.core.CatBoostRegressor at 0x7f9f05f4aad0>

产生预测

预报模型功能允许我们通过使用来自实验的数据或新的看不见的数据来生成预测。

pred_holdouts = predict_model(automl_model)pred_holdouts.head()

上面的predict_model函数为交叉验证期间用于验证模型的保持数据集生成预测。该代码还为我们提供了一个数据框,其中包含针对AutoML模型生成的预测的性能统计信息。

如何使用PyCaret-低代码ML库(python 低代码)

> Predictions generated by the AutoML model.

在上面的输出中,“标签”列表示由AutoML模型生成的预测。我们还可以对整个数据集进行预测,如下面的代码所示。

new_data = housing_data.copy()new_data.drop(['median_house_value'], axis=1, inplace=True)predictions = predict_model(automl_model, data=new_data)predictions.head()

保存模型

PyCaret还允许我们使用save_model函数保存经过训练的模型。此功能将模型的转换管道保存到pickle文件中。

save_model(automl_model, model_name='automl-model')

我们还可以使用load_model函数加载保存的AutoML模型。

loaded_model = load_model('automl-model')print(loaded_model)

打印出加载的模型将产生以下输出:

Pipeline(memory=None, steps=[('dtypes', DataTypes_Auto_infer(categorical_features=[], display_types=True, features_todrop=[], id_columns=[], ml_usecase='regression', numerical_features=[], target='median_house_value', time_features=[])), ('imputer', Simple_Imputer(categorical_strategy='not_available', fill_value_categorical=None, fill_value_numerical=None, numer... ('cluster_all', 'passthrough'), ('dummy', Dummify(target='median_house_value')), ('fix_perfect', Remove_100(target='median_house_value')), ('clean_names', Clean_Colum_Names()), ('feature_select', 'passthrough'), ('fix_multi', 'passthrough'), ('dfs', 'passthrough'), ('pca', 'passthrough'), ['trained_model', <catboost.core.CatBoostRegressor object at 0x7fb750a0aad0>]], verbose=False)

从上面的输出中可以看到,PyCaret不仅在流水线的末尾保存了经过训练的模型,还在流水线的开始处保存了特征工程和数据预处理步骤。现在,我们在一个文件中有一个可用于生产的机器学习管道,我们不必担心将管道的各个部分放在一起。

模型部署

现在我们已经准备好可以生产的模型管道,我们还可以使用deploy_model函数将模型部署到诸如AWS的云平台。如果打算将模型部署到S3存储桶,则在运行此功能之前,必须运行以下命令来配置AWS命令行界面:

aws configure

运行上面的代码将触发一系列提示,提示您需要提供诸如AWS Secret Access Key之类的信息。完成此过程后,就可以使用deploy_model函数部署模型了。

deploy_model(automl_model, model_name = 'automl-model-aws', platform='aws', authentication = {'bucket' : 'pycaret-ca-housing-model'})

在上面的代码中,我将AutoML模型部署到了AWS中名为pycaret-ca-housing-model的S3存储桶中。从这里,您可以编写一个AWS Lambda函数,该函数从S3中提取模型并在云中运行。PyCaret还允许您使用load_model函数从S3加载模型。

MLflow用户界面

PyCaret的另一个不错的功能是,它可以使用称为MLfLow的机器学习生命周期工具来记录和跟踪您的机器学习实验。运行以下命令将从本地主机在浏览器中启动MLflow用户界面。

!mlflow ui

如何使用PyCaret-低代码ML库(python 低代码)

> MLFlow dashboard.

在上面的仪表板中,我们可以看到MLflow可以跟踪您的PyCaret实验的不同模型的运行情况。您可以查看性能指标以及实验中每次运行的运行时间。

使用PyCaret的利与弊

如果您已经阅读了此书,则现在对如何使用PyCaret有了基本的了解。虽然PyCaret是一个很棒的工具,但它有其自身的优缺点,如果您打算将其用于数据科学项目,则应注意这一点。

优点

  • 低代码库。
  • 非常适合简单的标准任务和通用机器学习。
  • 为回归,分类,自然语言处理,聚类,异常检测和关联规则挖掘提供支持。
  • 使创建和保存模型的复杂转换管道变得容易。
  • 使可视化模型性能变得容易。

缺点

  • 到目前为止,由于NLP实用程序仅限于主题建模算法,因此PyCaret对于文本分类而言并不理想。
  • PyCaret不是深度学习的理想选择,并且不使用Keras或PyTorch模型。
  • 您无法执行更复杂的机器学习任务,例如使用PyCaret(至少在版本2.2.0中)进行图像分类和文本生成。
  • 通过使用PyCaret,您将在某种程度上牺牲对简单和高级代码的控制。

概括

在本文中,我演示了如何使用PyCaret完成机器学习项目中的所有步骤,从数据预处理到模型部署。尽管PyCaret是有用的工具,但是如果您打算将其用于数据科学项目,则应了解其优缺点。PyCaret非常适合使用表格数据进行通用机器学习,但是从2.2.0版本开始,PyCaret不适用于更复杂的自然语言处理,深度学习和计算机视觉任务。但这仍然是一种节省时间的工具,谁知道,也许开发人员将来会增加对更复杂任务的支持?

如前所述,您可以在GitHub上找到本文的完整代码。https://github.com/AmolMavuduru/PyCaretTutorial

资料来源

  • M. Ali,PyCaret:使用Python的开源,低代码机器学习库,(2020年),PyCaret.org。
  • S.M. Lundberg,S。Lee,《解释模型预测的统一方法》(2017年),《神经信息处理系统的发展》第30期(NIPS 2017年)。

(本文由闻数起舞翻译自Christopher Tao的文章《How to use PyCaret — the library for low-code ML》,转载请注明出处,原文链接:https://towardsdatascience.com/how-to-use-pycaret-the-library-for-lazy-data-scientists-91343f960bd2)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2024年2月16日 上午8:51
下一篇 2024年2月16日 上午9:03

相关推荐

  • amis低代码

    低代码平台:让开发变得更加简单 随着技术的发展,低代码平台已经成为了软件开发中不可或缺的一部分。低代码平台可以帮助开发者快速搭建应用程序,减少编程时间和成本,同时也可以提高开发效率…

    科研百科 2024年10月30日
    2
  • 项目管理的十大知识领域!(一)(项目管理中的十大知识领域)

    还不知道项目管理的十大领域吗?? 走过路过不要错过,帮助你掌握项目管理必备知识点! 首先呢,我们要先了解一下十大知识领域都包含了哪些? 项目整合管理、项目范围管理。项目进度管理、项…

    2022年5月27日
    528
  • 进销存erp多少钱一套?怎么选择?(进销存erp多少钱一套-怎么选择)

    进销存erp多少钱一套?怎么选择?(进销存erp多少钱一套?怎么选择) 进销存ERP系统的价格因多种因素而异,包括功能模块、使用人数、服务支持、企业的规模和需求等。一般来说,基础版…

    科研百科 2024年3月29日
    115
  • 科创研究项目的心得体会怎么写(科研项目创新体验收获与体会)

    科研项目创新体验收获与体会 近年来,随着科技的不断进步,科研项目也在不断创新。通过参加科研项目,我感受到了科技创新的魅力,也收获了丰富的体验和体会。 首先,科研项目的创新体验让我感…

    科研百科 2024年8月2日
    83
  • 建筑行业项目管理

    建筑行业项目管理 建筑行业项目管理是指通过有效的计划,组织,领导和控制建筑项目的过程,以确保项目按时,按质,按预算完成。建筑行业项目管理对于项目的成功与否至关重要,因为建筑项目通常…

    科研百科 2024年7月28日
    70
  • 工程投标怕吃亏?参考2022最新工程项目成本管理指导价,稳赚不赔(投标报价高于工程成本)

    在对外分包工程的比重越来越大的情况下,分包单价的高低是决定公司经济效益好坏的一个重要方面,尤其是工程在无标底竞标中标和合理偏低标价中标的情况下显得尤为重要。参考此资料可以防止企业经…

    科研百科 2022年7月11日
    267
  • 恒华科技合作科研项目

    恒华科技合作科研项目 近年来,恒华科技在人工智能领域取得了显著的进展,不断推出具有创新性和实用性的产品和服务,为客户带来了巨大的价值。为了进一步提高恒华科技在人工智能领域的技术水平…

    科研百科 2025年4月29日
    2
  • 科研项目来源如何写

    科研项目来源怎么写 科研项目来源是科研项目的基础,它决定了科研项目的性质、范围和深度。一篇好的科研项目来源应该能够清晰地传达科研项目的背景、目的、方法、结果和结论,并且能够吸引读者…

    科研百科 2025年5月17日
    1
  • ECR和ECN的区别

    ECR和ECN的区别 随着云计算和边缘计算的发展,越来越多的应用程序需要将数据从中央服务器向边缘设备进行传输。在这个过程中,数据压缩是非常重要的,因为它可以减少数据的传输时间和带宽…

    科研百科 2024年11月13日
    22
  • 安防系统的项目管理

    安防系统的项目管理 安防系统是一个非常重要的系统,用于保护企业和组织的机密信息。一个有效的安防系统的项目管理可以帮助组织确保系统在预算、时间和质量方面的成功实施。本文将探讨安防系统…

    科研百科 2025年6月20日
    0