作者：算力魔方创始人/英特尔创新大使刘力
《用PaddleNLP在4060单卡上实践大模型预训练技术》发布后收到读者热烈反响，很多读者要求进一步讲解更多的技术细节。本文主要针对大语言模型的预训练流程，使用PaddleNLP将FineWeb数据集中文本形式的数据，经过分词化(Tokenize)，转换为大语言模型能直接使用的二进制数据，以便提升训练效果。
ChatGPT发布后，当代大语言模型（LLM）的训练流程基本遵循OpenAI提出的"预训练+后训练"的训练范式。
-
预训练：将海量知识通过无监督学习的方式压缩到大语言模型的权重中，使其具备基本的通用能力，能预测下一个分词。预训练得到的模型叫基础大模型。
-
后训练：通过监督微调(SFT)和强化学习(RL)等方式，让大模型按人类专家的方式输出知识，使其具备专业能力。
一， PaddleNLP简介
PaddleNLP是一款基于飞桨深度学习框架的大语言模型(LLM)开发套件，支持在多种硬件上进行高效的大模型训练、无损压缩以及高性能推理。PaddleNLP 具备简单易用和性能极致的特点，致力于助力开发者实现高效的大模型产业级应用。
Github: https://github.com/PaddlePaddle/PaddleNLP使用PaddleNLP实现训练文本分词化仅需三行代码，如下所示：
# 导入PaddleNLP库中的GPTTokenizer类from paddlenlp.transformers import GPTTokenizer# 使用预训练的"gpt2-en"模型初始化GPTTokenizer，并设置bos_token为空字符串tokenizer = GPTTokenizer.from_pretrained("gpt2-en", bos_token="")# 打印使用tokenizer对字符串"Hello, world!"进行编码后的结果print(tokenizer.encode("Hello, world!"))进入：
https://tiktokenizer.vercel.app/?model=gpt2可以对比PaddleNLP的GPTTokenzier对"Hello,World!"的分词结果。
二， FineWeb简介
FineWeb是由Hugging Face团队于2024年推出的超大规模语言模型预训练数据集。作为目前最大的开源预训练数据集之一，FineWeb数据集包含来自 CommonCrawl 的超过 15T 经过清理和重复数据删除的英文网络数据。**其高质量的数据，有助于大语言模型稳定平稳的完成预训练，**而不会发生由重复低质数据引发的Loss Spike。
Link: https://huggingface.co/datasets/HuggingFaceFW/fineweb本文使用FineWeb数据集的sample-10BT子集作为GPT-2的预训练数据集。
三， 开发环境准备
本文的开发环境依赖PaddlePaddle、PaddleNLP、datasets和tqdm。
首先，请安装PaddlePaddle框架：
pip install paddlepaddle然后，安装其它依赖项：
pip install paddlenlp datasets tqdm四， 代码实现
用PaddleNLP将FineWeb数据集进行分词化处理，然后转换为大语言模型能直接使用的二进制数据的关键步骤有：
1．从HuggingFace Hub加载fineweb数据集的10B样本子集；
2．使用train_test_split按比例分割训练集和验证集；
3．对每个文本进行编码，添加结束符eot_token，返回ids和len；
4．为训练集和验证集分别创建.bin文件，使用np.memmap高效写入。
关键代码如下所示：
完整范例代码请参见：
https://aistudio.baidu.com/projectdetail/8798975运行成功后，可以得到如下两个文件：
五， 总结
PaddleNLP好学易用，借助PaddleNLP的GPTTokenizer很容易实现FineWeb数据集的分词化，并转换为方便大模型预训练的二进制数据！
如果你有更好的文章，欢迎投稿！
稿件接收邮箱：[email protected]
更多精彩内容请关注"算力魔方®"！