自注意力是 LLM 的一大核心组件。对大模型及相关应用开发者来说，理解自注意力很重要。近日，Ahead of AI 杂志运营者、机器学习和 AI 研究者 Sebastian Raschka 发布了一篇文章，介绍并用代码从头实现了 LLM 中的自注意力、多头注意力、交叉注意力和因果注意力。

  太长不看版这篇文章将介绍 Transformer 架构以及 GPT-4 和 Llama 等大型语言模型（LLM）中使用的自注意力机制。自注意力等相关机制是 LLM 的核心组件，因此如果想要理解 LLM，就需要理解它们。

  不仅如此，这篇文章还会介绍怎么样去使用 Python 和 PyTorch 从头开始编写它们的代码。在我看来，从头开始写算法、模型和技术的代码是一种非常棒的学习方式！

  考虑到文章篇幅，我假设读者已经知道 LLM 并且已经对注意力机制有了基本了解。本文的目标和重点是通过 Python 和 PyTorch 编程过程来理解注意力机制的工作方式。

  自注意力自在原始 Transformer 论文《Attention Is All You Need》中被提出以来，慢慢的变成了许多当前最佳的深度学习模型的一大基石，尤其是在自然语言处理（NLP）领域。由于自注意力已经无处不在，因此理解它是很重要的。

  究其根源，深度学习中的「注意力（attention）」概念可以追溯到一种用于帮助循环神经网络（RNN）处理更长序列或句子的技术。举个例子，假如我们应该将一个句子从一种语言翻译到另一种语言。逐词翻译的操作方式通常不可行，因为这会忽略每种语言独有的复杂语法结构和习惯用语，因此导致出现不准确或无意义的翻译结果。

  为了解决这一个问题，研究者提出了注意力机制，让模型在每个时间步骤都能访问所有序列元素。其中的重点是选择性，也就是确定在特定上下文中哪些词最重要。2017 年时，Transformer 架构引入了一种可以独立使用的自注意力机制，从而完全消除了对 RNN 的需求。

  （由于本文的重点是自注意力的技术细节和代码实现，所以只会简单谈谈相关背景。）

  来自论文《Attention is All You Need》的插图，展示了 making 这个词对其它词的依赖或关注程度，其中的颜色代表注意力权重的差异。

  对于自注意力机制，我们大家可以这么看：通过纳入与输入上下文有关的信息来增强输入嵌入的内容信息。换句话说，自注意力机制让模型能够权衡输入序列中不同元素的重要性，并动态调整它们对输出的影响。这对语言处理任务来说尤其重要，因为在语言处理任务中，词的含义可能会根据句子或文档中的上下文而改变。

  请注意，自注意力有很多变体。人们研究的一个重点是怎么样提高自注意力的效率。然而，大多数论文依然是实现《Attention Is All You Need》论文中提出的原始的缩放点积注意力机制（scaled-dot product attention mechanism），因为对于大多数训练大规模 Transformer 的公司来说，自注意力很少成为计算瓶颈。

  因此，本文着重关注的也是原始的缩放点积注意力机制（称为自注意力），毕竟这是实践中最流行和应用限制范围最广泛的注意力机制。但是，如果你对别的类型的注意力机制感兴趣，可以参阅其它论文：

  开始之前，我们先考虑以下输入句子：「Life is short, eat dessert first」。我们大家都希望通过自注意力机制来处理它。类似于别的类型的用于处理文本的建模方法（比如使用循环神经网络或卷积神经网络），我们第一步需要创建一个句子嵌入（embedding）。

  为了简单起见，这里我们的词典 dc 仅包含输入句子中出现的词。在真实世界应用中，我们会考虑训练数据集中的所有词（词典的典型大小在 30k 到 50k 条目之间）。

  现在，使用输入句子的整数向量表征，我们大家可以使用一个嵌入层来将输入编码成一个实数向量嵌入。这里，我们将使用一个微型的 3 维嵌入，这样一来每个输入词都可表示成一个 3 维向量。

  请注意，嵌入的大小范围通常是从数百到数千维度。举个例子，Llama 2 的嵌入大小为 4096。这里之所以使用 3 维嵌入，是为了方便演示。这让我们可以方便地检视各个向量的细节。

  现在开始讨论广被使用的自注意力机制，也称为缩放点积注意，这是 Transformer 架构不可或缺的组成部分。

  自注意力使用了三个权重矩阵，分别记为 W_q、W_k 和 W_v；它们作为模型参数，会在训练过程中不断调整。这些矩阵的作用是将输入分别投射成序列的查询、键和值分量。

  相应的查询、键和值序列可通过权重矩阵 W 和嵌入的输入 x 之间的矩阵乘法来获得：

  由于我们要计算查询和键向量的点积，因此这两个向量的元素数量必须相同（d_q=d_k）。很多 LLM 也会使用同样大小的值向量，也即 d_q=d_k=d_v。但是，值向量 v⁽⁾ 的元素数量可以是任意值，其决定了所得上下文向量的大小。

  在接下来的代码中，我们将设定 d_q=d_k=2，而 d_v=4。投射矩阵的初始化如下：

  （类似于之前提到的词嵌入，实际应用中的维度 d_q、d_k、d_v 都大得多，这里使用小数值是为了方便演示。）

  现在假设我们想为第二个输入元素计算注意力向量 —— 也就是让第二个输入元素作为这里的查询：

  然后我们可以推而广之，为所有输入计算剩余的键和值元素，因为下一步计算非归一化注意力权重时会用到它们：

  现在我们已经拥有了所有必需的键和值，可以继续下一步了，也就是计算非归一化注意力权重 ω，如下图所示：

  举个例子，我们能以如下方式计算查询与第 5 个输入元素（索引位置为 4）之间的非归一化注意力矩阵：

  由于我们后面需要这些非归一化注意力权重 ω 来计算实际的注意力权重，因此这里就以上图所示的方式为所有输入 token 计算 ω 值。

  自注意力的下一步是将非归一化的注意力权重 ω 归一化，从而得到归一化注意力权重 α（alpha）；这会用到 softmax 函数。此外，在通过 softmax 函数进行归一化之前，还要使用 1/√{d_k} 对 ω 进行缩放，如下所示：

  按 d_k 进行缩放可确保权重向量的欧几里得长度都大致在同等尺度上。这有助于防止注意力权重变得太小或太大 —— 这可能导致数值不稳定或影响模型在训练期间收敛的能力

  最后一步是计算上下文向量 z⁽⊃2;⁾，即原始查询输入 x⁽⊃2;⁾ 经过注意力加权后的版本，其通过注意力权重将所有其它输入元素作为了上下文：

  这个注意力权重特定于某一个输入元素，这里选择的是输入元素 x⁽⊃2;⁾。

  请注意，这个输出向量的维度（d_v=4）比输入向量（d=3）多，因为我们之前已经设定了 d_v d。但是，d_v 的嵌入大小可以任意选择。

  现在，总结一下之前小节中自注意力机制的代码实现。我们可以将之前的代码总结成一个紧凑的 SelfAttention 类：

  遵照 PyTorch 的惯例，上面的 SelfAttention 类会在 __init__ 方法中对自注意力参数进行初始化，然后通过 forward 方法为所有输入计算注意力权重和上下文向量。我们可以这样使用这个类：

  如下图所示，可以看到 Transformer 使用了一种名为多头注意力的模块。

  这种多头注意力与我们之前讨论的自注意力机制（缩放点积注意力）有何关联呢？

  在缩放点积注意力中，要使用分别表示查询、键和值的三个矩阵来对输入序列执行变换。在讨论多头注意力时，这三个矩阵可被看作是单个注意力头。下图总结了之前讨论和实现过的单注意力头：

  顾名思义，多头注意力涉及到多个这样的头，每一个都由查询、键和值矩阵构成。这个概念类似于在卷积神经网络中使用多个核，通过多个输出通道产生特征图。

  d_* 参数与 SelfAttention 类中的一样 —— 这里仅有的新输入参数是注意力头的数量：

  然后，其前向通过过程涉及到将每个 SelfAttention 头（存储在 self.heads 中）独立地用于输入 x。然后，沿最后的维度（dim=-1）将每个头的结果连接起来。下面来看实际操作！

  为了说明简单，首先我们假设有输出维度为 1 的单个 SelfAttention 头。

  从上面的输出可以看到，单自注意力头的输出就是多头注意力输出的张量的第一列。

  请注意这个多头注意力得到的是一个 6×4 维的张量：我们有 6 个输入 token 和 4 个自注意力头，其中每个自注意力头返回一个 1 维输出。之前的自注意力一节也得到了一个 6×4 维的张量。这是因为我们将输出维度设为了 4，而不是 1。既然我们可以就在 SelfAttention 类中调整输出嵌入的大小，那么我们为什么在实践时需要多个注意力头？

  增加单自注意力头的输出维度和使用多个注意力头的区别在于模型处理和学习数据的方式。尽管这两种方法都能提升模型表征数据的不同特征或不同方面的能力，但它们的方式却有根本性的差异。

  例如，多头注意力中的每个注意力头都可以学习关注输入序列的不同部分，捕获数据中的不同方面或关系。这种表征的多样性是多头注意力成功的关键。

  多头注意力的效率也能更高，尤其是使用并行计算时。每个头都可以独立处理，这使得它们非常适合 GPU 或 TPU 等擅长并行处理的现代硬件加速器。

  简而言之，使用多个注意力头不仅可以提高模型的能力，还可以增强其学习数据中各种特征和关系的能力。举个例子，7B 的 Llama 2 模型使用了 32 个注意力头。

  在上面编写的代码中，我们设定了 d_q = d_k = 2 和 d_v = 4。也就是说，查询和键序列使用了同样的维度。尽管值矩阵 W_v 的维度往往与查询和键矩阵一样（正如 PyTorch 中的 MultiHeadAttention 类），但值维度可以选取任意数值。

  由于维度有时候是很难记的，所以这里我们总结一下之前的内容。如下图所示，其中总结了单个注意力头的各种张量大小。

  上图对应于 Transformer 中使用的自注意力机制。对于这种注意力机制，还有一点尚未讨论：交叉注意力。

  自注意力处理的是同一个输入序列。交叉注意力则会混合或组合两个不同的输入序列。对于上面的原始 Transformer 架构，也就是左侧由编码器模块返回的序列和右侧由解码器部分处理过的输入序列。

  注意，在使用交叉注意力时，两个输入序列 x_1 和 x_2 的元素数量可以不同。但是，它们的嵌入维度必须一样。

  下图展示了交叉注意力的概念。如果我们设 x_1 = x_2，则其就等价于自注意力。

  怎么写它的代码呢？我们可以把之前的 SelfAttention 类的代码拿过来改一下：

  forward 方法有两个不同输入：x_1 和 x_2。查询来自 x_1，而键和值来自 x_2。这意味着注意力机制在评估两个不同输入之间的互动。

  注意力分数的计算方式是计算查询（来自 x_1）和键（来自 x_2）的点积。

  类似于 SelfAttention，每个上下文向量都是值的加权和。然而，在 CrossAttention 中，这些值源自第二个输入（x_2），而权重基于 x_1 和 x_2 之间的交互。

  注意，在计算交叉注意力时，第一个输入和第二个输入的 token 数（这里为行数）不必相同。

  上面我们谈的都是语言 Transformer。对于原始的 Transformer 架构，在执行语言翻译任务时（需要将输入句子转换成输出句子），交叉注意力很有用。其中输入句子可以表示成一个输入序列，翻译结果可以表示成另一个输入序列（这两个句子的词数可以不同）。

  这一节要做的是把之前讨论的自注意力机制改造成一种因果自注意力机制，尤其是对于用于生成文本的类 GPT（解码器式）LLM。这种因果自注意力机制也常被称为「掩码式自注意力（masked self-attention）」。在原始的 Transformer 架构中，其对应于「掩码多头注意力」模块 —— 简单起见，这一节只会讨论单注意力头，但这一概念也能泛化到多头注意力。

  因果自注意力能确保一个序列中某个特定位置的输出仅基于之前位置的已知输出，而不是未来位置的输出。简单来说，它能确保在预测每个新词时只会考虑之前的词。为了在类 GPT 的 LLM 中实现这种机制，对于每个被处理的 token，都要掩盖未来 token，即输入文本中出现在当前 token 之后的 token。

  下图展示了将因果掩码用于注意力权重，以隐藏输入中的未来输入 token。

  为了说明和实现因果自注意力，需要用到之前一节中未加权的注意力分数和注意力权重。首先，我们先简单回顾一下之前的注意力分数的计算：

  类似于前面的自注意力章节，对于那 6 个输入 token，上面的输出是一个 6×6 张量，其中包含这些成对的非归一化注意力权重（也称为注意力分数）。

  然后，我们之前的做法是通过 softmax 函数计算缩放点积注意，如下所示：

  现在，在类似 GPT 的 LLM 中，我们训练模型从左至右一次阅读和生成一个 token（词）。如果我们的训练文本样本是「Life is short eat desert first」，我们有以下设置，其中箭头右侧的词的上下文向量应该只包含其自身和前面的词：

  为了实现上述设置，最简单的方法是在注意力权重矩阵的对角线之上使用一个掩码，从而掩蔽掉所有未来 token，如下图所示。如此一来，在构建上下文向量（在输入上的注意力加权和）时，就不会把「未来的」词包含进来。

  写代码时能够正常的使用 PyTorch 的 tril 函数，这个函数最初是设计用来创建 1 和 0 的掩码：

  接下来，我们大家可以将注意力权重与这个掩码相乘，从而将对角线之上的所有注意力权重归零：

  尽管上面确实是一种掩蔽未来词的方法，但也请注意，每一行的注意力权重之和不再是 1 了。为了缓解这一问题，我们大家可以再次对每行进行归一化，使得它们的和为 1（这是注意力权重的标准惯例）：

  相较于不对神经网络的注意力权重执行归一化，进行归一化（Transformer 模型就会这样做）有两大好处。第一，和为 1 的归一化注意力权重就像是一个概率分布。这让我们大家可以更轻松地根据比例解释模型对输入中各个部分的关注程度。第二，通过将注意力权重之和限定为 1，有助于控制权重和梯度的范围，从而提升训练动态。

  在上面的因果自注意力代码中，我们首先是计算注意力分数，然后计算注意力权重，再遮掩住对角线之上的注意力权重，最后对注意力权重再次归一化。这个过程可以总结成下图：

  但其实还有另一种替代方法可以达成同样的结果。这种方法是把注意力分数中对角线之上的值替换成负无穷大，之后再将这些值输入 softmax 函数来计算注意力权重。这个过程可以总结成下图：

  我们大家可以使用 PyTorch 编写其代码，首先是掩蔽对角线之上的注意力分数：

  上面的代码首先是创建一个掩码，其中对角线，对角线。这里，torch.triu 的作用是保留矩阵的主对角线及之上的元素，将对角线之下的元素归零，因此可以保留上三角的部分。相比之下，torch.tril 则是保留主对角线及之下的元素。

  然后，masked_fill 方法则是将通过正掩码值（1）后的对角线及之上的元素替换成 -torch.inf，得到的结果如下：

  然后，只需和之前一样使用 softmax 函数，就能得到归一化的掩码注意力权重。

  为什么能这样操作？最后一步使用的 softmax 函数可将输入值转换成一个概率分布。当输入中有 -inf 时，softmax 会把它们视为零概率。这是因为 e^(-inf) 接近于 0，因此这些位置不会影响到输出的概率。

  本文通过逐步编程的方式探索了自注意力的内部工作方式。然后以此为基础，我们介绍了多头注意力，这是大型语言 Transformer 的一个基础组件。

  然后我们写了交叉注意力代码，这是自注意力的一种变体，在处理两个不同的序列时尤其有效。最后是因果自注意力，这是 GPT 和 Llama 等解码器式 LLM 的一个关键组件，可帮助它们生成连贯一致且符合上下文的序列。

  通过从头编写这些复杂机制的代码，希望能帮助你更好地理解 Transformer 和 LLM 中的自注意力机制的内部工作方式。

  本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。