LLM:decoder-only 思考

文章目录


前言

decoder-only模型是目前大模型的主流架构,由于OpenAI勇于挖坑踩坑,大家跟随它的脚步使其目前主流大模型均为decoder-only架构。但目前也没有明确实验表明decoder-only模型一定要优于encoder-decoder架构或其它架构。本文主要decoder-only涉及到一些技术点。


一、KV-cache

其实我觉得decoder-only目前一个很大的优势就是其已经逐渐成熟的部署生态,其中的重点之一KV-cache。

KV-Cache 指在 Transformer 解码器中缓存住过去生成 token 的 Key(K)和值(Value,V),以避免每次都重复计算前面 token 的 attention。

1、为什么使用KV-cache

在 decoder-only 架构中,当生成第 t 个 token 时,需要用 1~t-1 的 token 计算 attention。

如果不缓存,就要重复计算每个前面位置的 K/V (我们知道Q, K, V均经过各自的线性层获得,如果每次都计算将导致巨大的计算量)

而有了 KV-Cache:

每一步只计算当前 query 的 attention,然后从缓存中提取之前的 K/V。

时间复杂度从 O(T²) ➜ 降为 O(T)(每步 O(1))。

bash 复制代码
Query_t    -->   Attention(Q_t, K_1~t-1, V_1~t-1)
                                  ↑
                               来自缓存的 K/V

2、KV-cache的运作原理

基本代码如下:

python 复制代码
outputs = model(input_ids, use_cache=True)
past_key_values = outputs.past_key_values  # 缓存的Key 和 Value

next_outputs = model(next_input_ids, past_key_values=past_key_values)

复制代码
具体一点,假设prompt为 'The cat is' ,

第一次输入:"The cat is" → 模型生成 sleeping(next token id 是 sleeping 对应的 token)

第二次输入:next_input_ids = [sleeping_token_id],配合上一次的 past_key_values

第三次输入:模型又生成了 on,然后 next_input_ids = [on_token_id]

以此类推...

基于此,简单的伪代码如下:

python 复制代码
input_ids = tokenizer("The cat is", return_tensors="pt").input_ids
outputs = model(input_ids, use_cache=True)
past_key_values = outputs.past_key_values

generated_ids = input_ids

for _ in range(max_gen_len):
    next_token_id = outputs.logits[:, -1, :].argmax(dim=-1)
    generated_ids = torch.cat([generated_ids, next_token_id.unsqueeze(-1)], dim=-1)

    outputs = model(input_ids=next_token_id.unsqueeze(0), past_key_values=outputs.past_key_values)

这里再提一点:因为Q要和之前所有的K和V计算attention,

python 复制代码
attn_scores = Q_t × [K_1, ..., K_{t-1}]ᵀ   # shape: [1, t-1]
attn_weights = softmax(attn_scores)
output_t = attn_weights × [V_1, ..., V_{t-1}]  # shape: [1, d_model]

output_t = α₁ · V₁ + α₂ · V₂ + ... + α_{t-1} · V_{t-1}

二、Decoder-only VS Encoder-Decoder

首先要了解的一点,这两种架构都是针对语言端来说的,对于多模态是一定会有编码器来编码视觉等信息的。

基本架构如下:

python 复制代码
             ┌────────────┐
Input Text → │  Encoder   │ ─┐
             └────────────┘  │
                             ▼
                       ┌────────────┐
     Target Tokens →   │  Decoder   │ → Output tokens
                       └────────────┘

首先最明显的结构上的差异,多了个encoder。

此外Decoder-only是只有单向注意力(causal attention),天然具备隐式的位置编码能力,即使没有外部的位置编码,也能表达出 token 顺序。

Encoder-Decoder中是存在交叉注意力的,可以完整看到encoder的输出,比较适合并行处理

1、Decoder-only

适合任务:语言建模、对话、长文生成、代码补全等

bash 复制代码
[Prompt + Target] → 单个 Decoder → 逐 token 输出

注意力结构:
每个 token 只能看到自己左边的内容(自回归)

优点:
结构简单,统一处理输入输出
非常适合 autoregressive 生成(逐字输出)

2、Encoder-Decoder

适合翻译任务

bash 复制代码
Input:     I love you
           ↓
Encoder:   编码为隐藏状态
           ↓
Decoder:   预测输出:我 爱 你

个人觉得其实encoder-decoder的训练会比decoder-only更容易下,因为多了一个encoder的语义理解过程。不过也许正因decoder-only的训练困难,才能使其能力上限更高。

三、Causal LM VS PrefixLM

前面已经提到了Decoder-only主要使用 Causal LM(从左至右,单向推理),其实还有一种训练范式为Prefix LMCausal LM 和 Prefix LM在推理时是保持一致的,但是在训练时候的策略不同

复制代码
PrefixLM 做的 attention 限制是:

对于 prompt 的 token(你是谁?):

它们可以看到彼此(全注意力);

对于 target 的 token(皮卡丘):

它们只能看到 prompt + 自己左边的 token(自回归 attention);

不能 peek 后面的词。

可以看成是:"编码器-解码器合体"的一种 attention 掩码策略

Attention Mask格式如下:

Causal LM(如 GPT)

bash 复制代码
Token sequence: [ A B C D E ]
Mask matrix:
A → A  
B → A B  
C → A B C  
D → A B C D  
E → A B C D E  

Prefix LM

Prefix = [A B]

Target = [C D E]

bash 复制代码
Token sequence: [ A B | C D E ]

Mask matrix:
A → A B        ✅ full attention for prefix  
B → A B  

C → A B C      ✅ target attends to prefix + left  
D → A B C D  
E → A B C D E  

可以看到PrefixLM

显式建模「任务输入 + 输出」的结构;

在训练时就区分 prompt 和 response;

比纯 Causal LM 更有效地学习「用 prompt 解任务」的能力。


总结

其实我觉得encoder-decoder, prefix这些方法仍然有很大的探索空间,只不过对于大模型来说这些实验的成本是巨大且不可控的,decoder-only的生态逐渐成熟,这些方法的探索也就逐渐变少了,不过依然未来可期

相关推荐
小许学java7 分钟前
Spring AI快速入门以及项目的创建
java·开发语言·人工智能·后端·spring·ai编程·spring ai
人工智能技术派23 分钟前
Qwen-Audio:一种新的大规模音频-语言模型
人工智能·语言模型·音视频
lpfasd12328 分钟前
从OpenAI发布会看AI未来:中国就业市场的重构与突围
人工智能·重构
春末的南方城市1 小时前
清华&字节开源HuMo: 打造多模态可控的人物视频,输入文字、图片、音频,生成电影级的视频,Demo、代码、模型、数据全开源。
人工智能·深度学习·机器学习·计算机视觉·aigc
whltaoin1 小时前
Java 后端与 AI 融合:技术路径、实战案例与未来趋势
java·开发语言·人工智能·编程思想·ai生态
中杯可乐多加冰1 小时前
smardaten AI + 无代码开发实践:基于自然语言交互快速开发【苏超赛事管理系统】
人工智能
Hy行者勇哥1 小时前
数据中台的数据源与数据处理流程
大数据·前端·人工智能·学习·个人开发
xiaohanbao091 小时前
Transformer架构与NLP词表示演进
python·深度学习·神经网络
岁月宁静1 小时前
AI 时代,每个程序员都该拥有个人提示词库:从效率工具到战略资产的蜕变
前端·人工智能·ai编程
双向331 小时前
Trae Solo+豆包Version1.6+Seedream4.0打造"AI识菜通"
人工智能