GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型,到底做了什么?(一)

GPT实战系列-如何使用P-Tuning本地化训练ChatGLM2等LLM模型?

文章目录

P-Tuning v2 将 ChatGLM2-6B 模型需要微调的参数量,减少到原来的 0.1%,再通过模型量化、Gradient Checkpoint 等方法,最低只需要 7GB 显存即可运行。

本文试图分析程序结构和代码,解释序列转换生成模型的微调训练。为了篇幅不要过长,下期解读训练代码。
GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型,训练代码解读?(二)

P-Tuning微调训练概述

训练过程函数分为五个部分:训练参数配置,训练数据预处理,训练数据加载,执行迭代训练,训练评估与测试。
训练参数配置 训练数据预处理 训练数据加载 训练执行迭代 训练评估与测试

把训练任务参数配置传递给Trainer:

1、预训练模型或者是torch模型
python 复制代码
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
2、训练器的超参数

TrainingArguments包含可以更改的模型超参数,如学习率、批大小和要训练的epoch数量。如果不指定任何训练参数,则使用默认值:

python 复制代码
from transformers import TrainingArguments
training_args = TrainingArguments(
    output_dir="path/to/save/folder/",
    learning_rate=2e-5,
    per_device_train_batch_size=8,
    per_device_eval_batch_size=8,
    num_train_epochs=2,
)
3、数据预处理工具

如分词器、图像处理器、特征提取器或处理器:

python 复制代码
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")
4、加载数据
python 复制代码
from datasets import load_dataset
dataset = load_dataset("rotten_tomatoes")  # doctest: +IGNORE_RESULT
5、分词处理

创建一个函数对数据集进行分词,并使用map将其应用到整个数据集上:

python 复制代码
def tokenize_dataset(dataset):
    return tokenizer(dataset["text"])
dataset = dataset.map(tokenize_dataset, batched=True)
6、数据预处理,如填充,前后缀

使用DataCollatorWithPadding从数据集中创建一批示例:

python 复制代码
from transformers import DataCollatorWithPadding
data_collator = DataCollatorWithPadding(tokenizer=tokenizer)
7、训练参数配置

在Trainer中使用所有这些类:

python 复制代码
from transformers import Trainer
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=dataset["train"],
    eval_dataset=dataset["test"],
    tokenizer=tokenizer,
    data_collator=data_collator,
)  # doctest: +SKIP
8、执行训练

调用train()开始训练:

python 复制代码
trainer.train()

对于使用序列到序列模型的任务(如翻译或摘要),请使用Seq2SeqTrainer和Seq2SeqTrainingArguments类。

可以通过继承Trainer中的方法来自定义训练循环。允许自定义特性,如损失函数、优化器和调度器(scheduler)。请查看 Trainer参考文档,了解哪些方法可以被子类化。

软件依赖

需要pip安装中文分词器,中文评价指标,数据集管理

复制代码
pip install rouge_chinese nltk jieba datasets

数据处理

训练数据形式的转换,本训练测试以广告数据集作为样例讲解。

ADGEN数据集任务的数据形式,输入(content),生成输出(summary)

复制代码
{
    "content": "类型#上衣*版型#宽松*版型#显瘦*图案#线条*衣样式#衬衫*衣袖型#泡泡袖*衣款式#抽绳",
    "summary": "这件衬衫的款式非常的宽松,利落的线条可以很好的隐藏身材上的小缺点,穿在身上有着很好的显瘦效果。领口装饰了一个可爱的抽绳,漂亮的绳结展现出了十足的个性,配合时尚的泡泡袖型,尽显女性甜美可爱的气息。"
}

End


GPT专栏文章:
GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型,到底做了什么?(一)

GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型,到底做了什么?(二)

GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案

GPT实战系列-ChatGLM2模型的微调训练参数解读

GPT实战系列-如何用自己数据微调ChatGLM2模型训练

GPT实战系列-ChatGLM2部署Ubuntu+Cuda11+显存24G实战方案

GPT实战系列-Baichuan2本地化部署实战方案

决策引擎:
Falcon构建轻量级的REST API服务

决策引擎-利用Drools实现简单防火墙策略

相关推荐
AI大模型9 分钟前
什么是Embedding?Embedding的三大分类从“词袋”到“上下文”
程序员·llm·agent
大模型教程12 分钟前
记一次大模型检索增强系统中的一个问题——死板的RAG
程序员·llm·agent
AI大模型1 小时前
想在 AI 领域弯道超车?这份 7 大 RAG 核心框架清单,你必须收藏!
程序员·llm·agent
Clain4 小时前
Ollama、LM Studio只是模型工具,这款工具比他俩更全面
人工智能·机器学习·llm
Qiuner6 小时前
大模型请求/响应参数完全拆解:每个字段都是什么意思?
阿里云·大模型·llm·请求·apifox
nenchoumi31196 小时前
LLM 论文精读(十二)DeepSeek-OCR: Contexts Optical Compression
人工智能·计算机视觉·llm·ocr·vlm·deepseek
june-Dai Yi17 小时前
免费的大语言模型API接口
人工智能·语言模型·自然语言处理·chatgpt·api接口
CoderLiu19 小时前
LLM API 成本的 3 个秘密:如何让服务商为你的复杂推理买单
人工智能·llm
智泊AI1 天前
一文讲清Transformer工作原理,36张图解 Transformer
llm
爱听歌的周童鞋1 天前
斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 6: Kernels,Triton
llm·triton·profiling·cs336·kernels