利用 PyTorch Lightning 搭建一个文本分类模型

引言

在这篇博文^[1]^中,将逐步介绍如何使用 PyTorch Lightning 来构建和部署一个基础的文本分类模型。该项目借助了 PyTorch 生态中的多个强大工具,例如 torch、pytorch_lightning 以及 Hugging Face 提供的 transformers,从而构建了一个强大且可扩展的机器学习流程。

代码库包含四个核心的 Python 脚本:

  • data.py:负责数据的加载和预处理工作。
  • model.py:构建模型的结构。
  • train.py:包含了训练循环和训练的配置。
  • inference.py:支持使用训练好的模型进行推断。

下面详细解析每个部分,以便理解它们是如何协同作用,以实现文本分类的高效工作流程。

1. 数据加载与预处理

data.py 文件中,DataModule 类被设计用来处理数据加载和预处理的所有环节。它利用了 PyTorch Lightning 的 LightningDataModule,这有助于保持数据处理任务的模块化和可复用性。

class DataModule(pl.LightningDataModule):
    def __init__(self, model_name="google/bert_uncased_L-2_H-128_A-2", batch_size=32):
        super().__init__()
        self.batch_size = batch_size
        self.tokenizer = AutoTokenizer.from_pretrained(model_name)

这个类在初始化时需要指定模型名称和批量大小,并从 Hugging Face 的 Transformers 库加载一个分词器。prepare_data() 函数会从 GLUE 基准测试套件中下载 CoLA 数据集,这个数据集经常用来评估自然语言理解(NLU)模型的性能。

setup() 函数负责对文本数据进行分词处理,并创建用于训练和验证的 PyTorch DataLoader 对象:

def setup(self, stage=None):
    if stage == "fit" or stage is None:
        self.train_data = self.train_data.map(self.tokenize_data, batched=True)
        self.train_data.set_format(type="torch", columns=["input_ids", "attention_mask", "label"])
        self.val_data = self.val_data.map(self.tokenize_data, batched=True)
        self.val_data.set_format(type="torch", columns=["input_ids", "attention_mask", "label"])

2. 模型架构

model.py 文件中定义的 ColaModel 类继承自 PyTorch Lightning 的 LightningModule。该模型采用 BERT(一种双向编码器表示,源自 Transformers)的简化版本作为文本表示的核心模型。

class ColaModel(pl.LightningModule):
    def __init__(self, model_name="google/bert_uncased_L-2_H-128_A-2", lr=1e-2):
        super(ColaModel, self).__init__()
        self.bert = AutoModel.from_pretrained(model_name)
        self.W = nn.Linear(self.bert.config.hidden_size, 2)

模型在前向传播过程中提取 BERT 的最终隐藏状态,并通过一个线性层来生成用于二分类的对数几率(logits):

def forward(self, input_ids, attention_mask):
    outputs = self.bert(input_ids=input_ids, attention_mask=attention_mask)
    h_cls = outputs.last_hidden_state[:, 0]
    logits = self.W(h_cls)
    return logits

另外,training_step()validation_step() 函数分别负责处理训练和验证的逻辑,并记录诸如损失和准确率等关键指标。

3. Training Loop

train.py 脚本利用 PyTorch Lightning 的 Trainer 类来控制训练过程。它还包含了模型检查点和提前停止的回调机制,以防止模型过拟合。

checkpoint_callback = ModelCheckpoint(dirpath="./models", monitor="val_loss", mode="min")
early_stopping_callback = EarlyStopping(monitor="val_loss", patience=3, verbose=True, mode="min")

训练过程设定了最大周期数,并在可能的情况下利用 GPU 进行加速:

trainer = pl.Trainer(
    default_root_dir="logs",
    gpus=(1 if torch.cuda.is_available() else 0),
    max_epochs=5,
    fast_dev_run=False,
    logger=pl.loggers.TensorBoardLogger("logs/", name="cola", version=1),
    callbacks=[checkpoint_callback, early_stopping_callback],
)
trainer.fit(cola_model, cola_data)

这样的配置不仅让训练变得更加简便,还保证了模型能够定期保存并对其性能进行监控。

4. 推理

训练结束后,将利用模型来进行预测。inference.py 脚本中定义了一个名为 ColaPredictor 的类,该类负责加载经过训练的模型检查点,并提供了一个用于生成预测的方法:

class ColaPredictor:
    def __init__(self, model_path):
        self.model_path = model_path
        self.model = ColaModel.load_from_checkpoint(model_path)
        self.model.eval()
        self.model.freeze()

Predict() 方法接受文本输入,使用分词器对其进行处理,并返回模型的预测:

def predict(self, text):
    inference_sample = {"sentence": text}
    processed = self.processor.tokenize_data(inference_sample)
    logits = self.model(
        torch.tensor([processed["input_ids"]]),
        torch.tensor([processed["attention_mask"]]),
    )
    scores = self.softmax(logits[0]).tolist()
    predictions = [{"label": label, "score": score} for score, label in zip(scores, self.labels)]
    return predictions

总结

本项目展示了如何采用 PyTorch Lightning 进行构建、训练和部署文本分类模型的系统化方法。尽情地尝试代码,调整参数,并试用不同的数据集或模型吧。编程愉快!
Reference [1]

Source: https://medium.com/@mzeynali01/building-a-text-classification-model-with-pytorch-lightning-a-deep-dive-7a262cb5784b

本文由mdnice多平台发布

相关推荐
Jina AI2 小时前
RAG 系统的分块难题:小型语言模型如何找到最佳断点?
人工智能·语言模型·自然语言处理
-派神-2 小时前
大语言模型(LLM)量化基础知识(一)
人工智能·语言模型·自然语言处理
Elastic 中国社区官方博客2 小时前
释放专利力量:Patently 如何利用向量搜索和 NLP 简化协作
大数据·数据库·人工智能·elasticsearch·搜索引擎·自然语言处理
龙的爹23334 小时前
论文 | Legal Prompt Engineering for Multilingual Legal Judgement Prediction
人工智能·语言模型·自然语言处理·chatgpt·prompt
袁牛逼4 小时前
电话语音机器人,是由哪些功能构成?
人工智能·自然语言处理·机器人·语音识别
小言从不摸鱼6 小时前
【NLP自然语言处理】深入解析Encoder与Decoder模块:结构、作用与深度学习应用
人工智能·深度学习·神经网络·机器学习·自然语言处理·transformer·1024程序员节
不是AI7 小时前
【持续更新】【NLP项目】【自然语言处理】智能聊天机器人——“有问必答”【Chatbot】第2章、《模式一:问候模式》
人工智能·自然语言处理·机器人
知来者逆9 小时前
使用 GPT-4V 全面评估泛化情绪识别 (GER)
人工智能·gpt·语言模型·自然语言处理·gpt-4v
howard20059 小时前
1.3 自然语言处理的应用
人工智能·自然语言处理
&永恒的星河&9 小时前
Hunyuan-Large:推动AI技术进步的下一代语言模型
人工智能·语言模型·自然语言处理·chatgpt·moe·llms