GPT 内部 — I ： 了解文本生成

年轻的陀思妥耶夫斯基被介绍给生成AI，通过Midjourney创建

一、说明

我经常与不同领域的同事互动，我喜欢向几乎没有数据科学背景的人传达机器学习概念的挑战。在这里，我试图用简单的术语解释 GPT 是如何连接的，只是这次是书面形式。

在ChatGPT流行的魔术背后，有一个不受欢迎的逻辑。你给 ChatGPT 写一个提示，它会生成文本，无论它是否准确，它都类似于人类的答案。它如何能够理解您的提示并生成连贯且易于理解的答案？请看本文。

二、变压器神经网络

该架构旨在处理大量非结构化数据，在我们的例子中是文本。当我们说架构时，我们的意思本质上是一系列并行在几层中进行的数学运算。通过这个方程组，引入了一些创新，帮助我们克服了长期存在的文本生成挑战。直到 5 年前，我们一直在努力解决的挑战。

如果 GPT 已经在这里存在了 5 年（确实 GPT 论文是在 2018 年发表的），那么 GPT 不是旧消息吗？为什么它最近变得非常受欢迎？GPT 1、2、3、3.5 （ChatGPT ） 和 4 有什么区别？

所有 GPT 版本都构建在相同的架构上。但是，每个后续模型都包含更多参数，并使用更大的文本数据集进行训练。显然，后来的 GPT 版本引入了其他新颖性，尤其是在训练过程中，例如通过人类反馈进行强化学习，我们将在本博客系列的第 3 部分中解释。

2.1 向量、矩阵、张量。

所有这些花哨的词本质上都是包含数字块的单位。这些数字经过一系列数学运算（主要是乘法和求和），直到我们达到最佳输出值，这是可能结果的概率。

输出值？从这个意义上说，它是语言模型生成的文本，对吧？是的。那么，输入值是什么？是我的提示吗？是的，但不完全是。那么背后还有什么呢？

在继续讨论不同的文本解码策略（这将是以下博客文章的主题）之前，消除歧义很有用。让我们回到我们一开始问的基本问题。它如何理解人类语言？

2.2 生成式预训练变压器。

GPT 缩写代表的三个词。我们触摸了上面的转换器部分，它代表了进行大量计算的架构。但是我们到底计算了什么？你甚至从哪里得到数字？它是一个语言模型，您要做的就是输入一些文本。如何计算文本？

数据是不可知的。所有数据都是相同的，无论是文本、声音还是图像形式。

2.3 令牌

我们将文本拆分为小块（令牌），并为每个块分配一个唯一的编号（令牌ID）。模特不认识文字、图像或录音。他们学会用大量的数字（参数）来表示它们，这可以作为我们以数字形式说明事物特征的工具。令牌是传达含义的语言单位，令牌 ID 是编码令牌的唯一数字。

显然，我们如何标记语言可能会有所不同。词汇化可能涉及将文本拆分为句子、单词、单词的一部分（子单词）甚至单个字符。

让我们考虑一个场景，我们的语言语料库中有 50，000 个代币（类似于 GPT-2 有 50，257 个）。标记化后我们如何表示这些单位？

Sentence: "students celebrate the graduation with a big party"
Token labels: ['[CLS]', 'students', 'celebrate', 'the', 'graduation', 'with', 'a', 'big', 'party', '[SEP]']
Token IDs: tensor([[ 101, 2493, 8439, 1996, 7665, 2007, 1037, 2502, 2283,  102]])

上面是一个被标记成单词的示例句子。令牌化方法在实现上可能有所不同。对于我们现在来说，重要的是要了解我们通过其相应的令牌 ID 获取语言单位（标记）的数字表示。那么，现在我们有了这些令牌 ID，我们是否可以简单地将它们直接输入到进行计算的模型中？

基数在数学 101 和 2493 中很重要，因为令牌表示对模型很重要。因为请记住，我们所做的主要是大块数字的乘法和求和。因此，将数字乘以 101 或 2493 很重要。那么，我们如何确保用数字 101 表示的代币的重要性不亚于 2493，只是因为我们碰巧任意地标记了它？我们如何在不导致虚构排序的情况下对单词进行编码？

2.4 单热编码。

令牌的稀疏映射。独热编码是我们将每个令牌投影为二进制向量的技术。这意味着向量中只有一个元素是 1（"热"），其余元素是 0（"冷"）。

作者图片：独热编码向量示例

令牌用一个向量表示，该向量在我们的语料库中具有总令牌的长度。简单来说，如果我们的语言中有 50k 个令牌，则每个标记都由一个向量 50k 表示，其中只有一个元素为 1，其余元素为 0。由于此投影中的每个向量仅包含一个非零元素，因此将其命名为稀疏表示。但是，您可能认为这种方法效率非常低。是的，我们设法删除了令牌 ID 之间的人工基数，但我们无法推断有关单词语义的任何信息。我们无法通过使用稀疏向量来理解"派对"一词是指庆祝活动还是政治组织。此外，用大小为 50k 的向量表示每个代币将意味着总共 50k 个长度为 50k 的向量。这在所需的内存和计算方面效率非常低。幸运的是，我们有更好的解决方案。

2.5 嵌入。

令牌的密集表示形式。标记化单元通过嵌入层，其中每个标记都转换为固定大小的连续向量表示。例如，在 GPT 3 的情况下，中的每个标记都由 768 个数字的向量表示。这些数字是随机分配的，然后在看到大量数据（训练）后被模型学习。

Token Label: "party"
Token : 2283
Embedding Vector Length: 768
Embedding Tensor Shape: ([1, 10, 768])

Embedding vector:

tensor([ 2.9950e-01, -2.3271e-01,  3.1800e-01, -1.2017e-01, -3.0701e-01,
        -6.1967e-01,  2.7525e-01,  3.4051e-01, -8.3757e-01, -1.2975e-02,
        -2.0752e-01, -2.5624e-01,  3.5545e-01,  2.1002e-01,  2.7588e-02,
        -1.2303e-01,  5.9052e-01, -1.1794e-01,  4.2682e-02,  7.9062e-01,
         2.2610e-01,  9.2405e-02, -3.2584e-01,  7.4268e-01,  4.1670e-01,
        -7.9906e-02,  3.6215e-01,  4.6919e-01,  7.8014e-02, -6.4713e-01,
         4.9873e-02, -8.9567e-02, -7.7649e-02,  3.1117e-01, -6.7861e-02,
        -9.7275e-01,  9.4126e-02,  4.4848e-01,  1.5413e-01,  3.5430e-01,
         3.6865e-02, -7.5635e-01,  5.5526e-01,  1.8341e-02,  1.3527e-01,
        -6.6653e-01,  9.7280e-01, -6.6816e-02,  1.0383e-01,  3.9125e-02,
        -2.2133e-01,  1.5785e-01, -1.8400e-01,  3.4476e-01,  1.6725e-01,
        -2.6855e-01, -6.8380e-01, -1.8720e-01, -3.5997e-01, -1.5782e-01,
         3.5001e-01,  2.4083e-01, -4.4515e-01, -7.2435e-01, -2.5413e-01,
         2.3536e-01,  2.8430e-01,  5.7878e-01, -7.4840e-01,  1.5779e-01,
        -1.7003e-01,  3.9774e-01, -1.5828e-01, -5.0969e-01, -4.7879e-01,
        -1.6672e-01,  7.3282e-01, -1.2093e-01,  6.9689e-02, -3.1715e-01,
        -7.4038e-02,  2.9851e-01,  5.7611e-01,  1.0658e+00, -1.9357e-01,
         1.3133e-01,  1.0120e-01, -5.2478e-01,  1.5248e-01,  6.2976e-01,
        -4.5310e-01,  2.9950e-01, -5.6907e-02, -2.2957e-01, -1.7587e-02,
        -1.9266e-01,  2.8820e-02,  3.9966e-03,  2.0535e-01,  3.6137e-01,
         1.7169e-01,  1.0535e-01,  1.4280e-01,  8.4879e-01, -9.0673e-01,
                                            ... 
                                            ... 
                                            ...                           ])

上面是单词"party"的嵌入向量示例。

现在我们有 50，000x786 大小的矢量，相比之下，50，000x50，000 个独热编码的效率要高得多。

嵌入向量将是模型的输入。由于密集的数字表示，我们将能够捕获单词的语义，相似的标记的嵌入向量将彼此更接近。

如何在上下文中衡量两个语言单元的相似性？有几个函数可以测量相同大小的两个向量之间的相似性。让我们用一个例子来解释它。

考虑一个简单的例子，我们有标记"猫"、"狗"、"汽车"和"香蕉"的嵌入向量。为了简化起见，我们使用嵌入大小 4。这意味着将有四个学习的数字来表示每个令牌。

import numpy as np
from sklearn.metrics.pairwise import cosine_similarity

# Example word embeddings for "cat" , "dog", "car" and "banana"
embedding_cat = np.array([0.5, 0.3, -0.1, 0.9])
embedding_dog = np.array([0.6, 0.4, -0.2, 0.8])
embedding_car = np.array([0.5, 0.3, -0.1, 0.9])
embedding_banana = np.array([0.1, -0.8, 0.2, 0.4])

使用上面的向量，让我们使用余弦相似度来计算相似度分数。人类逻辑会发现"狗"和"猫"这个词比"香蕉汽车"这两个词彼此更相关。我们可以期望数学来模拟我们的逻辑吗？

# Calculate cosine similarity
similarity = cosine_similarity([embedding_cat], [embedding_dog])[0][0]

print(f"Cosine Similarity between 'cat' and 'dog': {similarity:.4f}")

# Calculate cosine similarity
similarity_2 = cosine_similarity([embedding_car], [embedding_banana])[0][0]

print(f"Cosine Similarity between 'car' and 'banana': {similarity:.4f}")

"Cosine Similarity between 'cat' and 'dog': 0.9832"
"Cosine Similarity between 'car' and 'banana': 0.1511"

我们可以看到，单词"cat"和"dog"的相似度得分非常高，而单词"car"和"banana"的相似度得分非常低。现在想象一下，对于我们的语言语料库中的每 50000 个标记，嵌入长度为 768 而不是 4 个的向量。这就是我们如何找到彼此相关的单词的方式。

现在，我们来看看下面两个语义复杂度较高的句子。

"students celebrate the graduation with a big party"

"deputy leader is highly respected in the party"

第一句和第二句中的"党"一词传达了不同的含义。大型语言模型如何能够区分作为政治组织的"政党"和作为庆祝社会活动的"政党"之间的区别？

我们能否通过 token 嵌入来区分同一个 token 的不同含义？事实是，尽管嵌入为我们提供了一系列优势，但它们不足以解决人类语言语义挑战的全部复杂性。

自我关注。变压器神经网络再次提供了解决方案。我们生成一组新的权重（参数的另一个名称），即查询矩阵、键矩阵和值矩阵。这些权重学习将标记的嵌入向量表示为一组新的嵌入。如何？只需取原始嵌入的加权平均值即可。每个标记"关注"输入句子中的每个其他标记（包括其自身），并计算一组注意力权重，或者换句话说，新的所谓"上下文嵌入"。

它所做的只是通过分配使用标记嵌入计算的新数字集（注意力权重）来映射输入句子中单词的重要性。

作者提供的图片：不同上下文中 token 的注意力权重（BertViz 注意力头视图）

上面的可视化用两句话展示了令牌"方"对其余令牌的"关注"。连接的大胆性表明了代币的重要性或相关性。注意和"出席"是指代一系列新的数字（注意参数）及其大小的术语，我们用它来用数字表示单词的重要性。在第一句中，"聚会"一词最关注"庆祝"一词，而在第二句中，"代表"一词最受关注。这就是模型如何能够通过检查周围的单词来合并上下文。

正如我们在注意力机制中提到的，我们推导出新的权重矩阵集，即：查询、键和值（简称 q，k，v）。它们是相同大小（通常小于嵌入向量）的级联矩阵，被引入到体系结构中以捕获语言单元的复杂性。学习注意力参数是为了揭开单词，单词对，单词对和单词对对等之间的关系的神秘面纱。下面是查找最相关单词的查询、键和值矩阵的可视化效果。

图片由作者提供：查询键值矩阵及其最终概率图示（BertViz q，k，v 视图）

可视化将 q 和 k 向量表示为垂直波段，其中每个波段的粗体反映了其幅度。令牌之间的连接表示由注意力决定的权重，表明"party"的q向量与"is"，"deputy"和"respected"的k向量最显着地对齐。

为了使注意力机制和q，k和v的概念不那么抽象，想象一下你去参加一个聚会，听到了一首你爱上的惊人歌曲。派对结束后，您渴望找到这首歌并再次收听，但您只记得歌词中的 5 个单词和歌曲旋律的一部分（查询）。要找到这首歌，您决定浏览派对播放列表（键）并收听（相似性功能）派对上播放的列表中的所有歌曲。当您最终认出这首歌时，您会记下歌曲的名称（值）。

转换器引入的最后一个重要技巧是将位置编码添加到向量嵌入中。仅仅因为我们想捕获单词的位置信息。它增强了我们更准确地预测下一个标记的机会，以达到真实的句子上下文。这是基本信息，因为经常交换单词会完全改变上下文。例如，"蒂姆追了一辈子的云"和*"云追了蒂姆一辈子"*这句话在本质上是绝对不同的。

到目前为止，我们在基本级别上探索的所有数学技巧，其目标是在给定输入令牌序列的情况下预测下一个令牌。事实上，GPT 是在一个简单的任务上进行训练的，即文本生成，或者换句话说，下一个令牌预测。问题的核心是，我们衡量代币的概率，给定它之前出现的代币序列。

您可能想知道模型如何从随机分配的数字中学习最佳数字。这可能是另一篇博客文章的主题，但这实际上是理解的基础。此外，这是一个很好的迹象，表明您已经在质疑基础知识。为了消除不明确性，我们使用了一种优化算法，该算法根据称为损失函数的指标调整参数。此指标是通过将预测值与实际值进行比较来计算的。该模型跟踪指标的机会，并根据损失值的大小调整数字。这个过程一直完成，直到给定我们在称为超参数的算法中设置的规则，损失不能更小。一个示例超参数可以是，我们想要计算损失和调整权重的频率。这是学习背后的基本思想。

我希望在这篇简短的文章中，我至少能够稍微清除图片。本博客系列的第二部分将重点介绍解码策略，即为什么您的提示很重要。第三部分也是最后一部分将专门讨论 ChatGPT 成功的关键因素，即通过人类反馈进行强化学习。非常感谢您的阅读。直到下次。

三、引用：

A.瓦斯瓦尼，N.沙泽尔，N.帕尔马，J.乌什科雷特，L.琼斯，A.N.戈麦斯，Ł。Kaiser和I. Polosukhin，"注意力是你所需要的一切"，神经信息处理系统进展30（NIPS 2017），2017。

J. Vig，"转换器模型中注意力的多尺度可视化"，计算语言学协会第 57 届年会论文集：系统演示，第 37-42 页，意大利佛罗伦萨，计算语言学协会，2019 年。

L. Tunstall、L. von Werra 和 T. Wolf，"使用变形金刚进行自然语言处理，修订版"，O'Reilly Media， Inc.，2022 年 9781098136796 月发布，ISBN：<>。

1 -懒惰的程序员博客