【人工智能】Transformers之Pipeline（十九）：文生文（text2text-generation）

一、引言

二、文生文（text2text-generation）

[2.1 概述](#2.1 概述)

[2.2 Flan-T5: One Model for ALL Tasks](#2.2 Flan-T5: One Model for ALL Tasks)

[2.3 pipeline参数](#2.3 pipeline参数)

[2.3.1 pipeline对象实例化参数](#2.3.1 pipeline对象实例化参数)

[2.3.2 pipeline对象使用参数 ](#2.3.2 pipeline对象使用参数)

[2.3.3 pipeline返回参数 ](#2.3.3 pipeline返回参数)

[2.4 pipeline实战](#2.4 pipeline实战)

[2.5 模型排名](#2.5 模型排名)

三、总结

一、引言

pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型

今天介绍NLP自然语言处理的第七篇：文生文（text2text-generation），在huggingface库内有3.3万个文本生成（text-generation）模型。

二、文生文（text2text-generation）

2.1 概述

文本生成（Text Generation）和文生文（Text-to-Text）两者都是自然语言处理（NLP）的子领域，但它们有不同的重点和应用场景。文本生成主要指的是自动生成文本内容的技术，例如：自动生成新闻报道、自动生成产品描述、自动生成聊天机器人的对话，这种技术通常使用深度学习模型来训练语言模型，从而能够根据输入的条件或提示生成新的文本内容。文生文则主要指的是将一段文本转换为另一段文本的技术，例如：机器翻译、文本摘要、风格转换，这种技术通常使用序列到序列（Seq2Seq）模型或变换器（Transformer）模型来训练语言模型，从而能够根据输入的文本生成新的文本内容。文本生成主要关注于自动生成文本内容，而文生文则主要关注于将一段文本转换为另一段文本。

2.2 Flan-T5: One Model for ALL Tasks

Flan-T5是Google最新的一篇工作，通过在超大规模的任务上对T5进行微调，让语言模型具备了极强的泛化性能，做到单个模型就可以在1800多个NLP任务上都能有很好的表现。这意味着模型一旦训练完毕，可以直接在几乎全部的NLP任务上直接使用，实现One model for ALL tasks，这就非常有诱惑力！

这里的Flan 指的是（Instruction finetuning ），即"基于指令的微调"；T5是2019年Google发布的一个语言模型了。注意这里的语言模型可以进行任意的替换（需要有Decoder部分，所以不包括BERT这类纯Encoder语言模型），论文的核心贡献是提出一套多任务的微调方案（Flan），来极大提升语言模型的泛化性。

2.3 pipeline参数

2.3.1 pipeline对象实例化参数

model （PreTrainedModel或TFPreTrainedModel）--- 管道将使用其进行预测的模型。对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从 TFPreTrainedModel继承。

tokenizer ( PreTrainedTokenizer ) --- 管道将使用 tokenizer 来为模型编码数据。此对象继承自 PreTrainedTokenizer。

modelcard （str或ModelCard，可选）--- 属于此管道模型的模型卡。

framework （str，可选）--- 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。

task （str，默认为""）--- 管道的任务标识符。

num_workers （int，可选，默认为 8）--- 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。

batch_size （int，可选，默认为 1）--- 当管道将使用DataLoader （传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。

args_parser （ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。

device （int，可选，默认为 -1）--- CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太

torch_dtype （str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）

binary_output （bool，可选，默认为False）------标志指示管道的输出是否应以序列化格式（即 pickle）或原始输出数据（例如文本）进行。

2.3.2 pipeline对象使用参数

text_inputs （str，List[str]，List[Dict[str, str]]，或List[List[Dict[str, str]]]）--- 需要完成的一个或多个提示（或一个提示列表）。如果传递了字符串或字符串列表，则此管道将继续每个提示。或者，可以传递"聊天"（以带有"role"和"content"键的字典列表的形式），或传递此类聊天的列表。传递聊天时，将使用模型的聊天模板对其进行格式化，然后再将其传递给模型。

return_tensors ( bool，可选，默认为False) --- 是否在输出中返回预测的张量（作为标记索引）。如果设置为 True，则不返回解码后的文本。

return_text （bool，可选，默认为True）--- 是否在输出中返回解码后的文本。

return_full_text （bool，可选，默认为True）--- 如果设置为，False则仅返回添加的文本，否则返回全文。仅当 return_text设置为 True 时才有意义。

clean_up_tokenization_spaces （bool，可选，默认为True）---是否清理文本输出中可能出现的额外空格。

prefix （str，可选）--- 添加到提示的前缀。

handle_long_generation （str，可选）--- 默认情况下，此管道不处理长生成（以某种形式超出模型最大长度的生成）。

generate_kwargs （dict，可选）------传递给模型的生成方法的附加关键字参数（请参阅此处与您的框架相对应的生成方法）。

2.3.3 pipeline返回参数

args （str或List[str]）------编码器的输入文本。

return_tensors （bool，可选，默认为False）--- 是否在输出中包含预测张量（作为标记索引）。

return_text （bool，可选，默认为True）--- 是否在输出中包含解码后的文本。

clean_up_tokenization_spaces （bool，可选，默认为False）---是否清理文本输出中可能出现的额外空格。

truncation （TruncationStrategy，可选，默认为TruncationStrategy.DO_NOT_TRUNCATE）------管道内标记化的截断策略。（默认）永远不会截断，但有时需要截断输入以适合模型的 max_length，而不是在行中抛出错误。generate_kwargs------传递给模型的生成方法的附加关键字参数

2.4 pipeline实战

基于pipeline的text2text-generation任务，使用google/flan-t5-small模型：

import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

from transformers import pipeline

generator = pipeline(task="text2text-generation",model= "google/flan-t5-small" )
output=generator( "Translate to German:  My name is Arthur")
print(output)

执行后，自动下载模型文件并进行识别：

2.5 模型排名

在huggingface上，我们将文生文（text2text-generation）模型按下载量从高到低排序，总计3.2万个模型，google的byt5、t5-v1_1、flan-t5-base在榜。

三、总结

本文对transformers之pipeline的文生文（text2text-generation）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用NLP中的文生文（text2text-generation）模型。

期待您的3连+关注，如何还有时间，欢迎阅读我的其他文章：

《Transformers-Pipeline概述》

【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用

《Transformers-Pipeline 第一章：音频（Audio）篇》

【人工智能】Transformers之Pipeline（一）：音频分类（audio-classification）

【人工智能】Transformers之Pipeline（二）：自动语音识别（automatic-speech-recognition）

【人工智能】Transformers之Pipeline（三）：文本转音频（text-to-audio/text-to-speech）

【人工智能】Transformers之Pipeline（四）：零样本音频分类（zero-shot-audio-classification）

《Transformers-Pipeline 第二章：计算机视觉（CV）篇》

【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）

【人工智能】Transformers之Pipeline（六）：图像分类（image-classification）

【人工智能】Transformers之Pipeline（七）：图像分割（image-segmentation）