1. 从“复制粘贴”的误解说起Decoder 到底在解什么写这个系列写到第五篇前面把词嵌入、位置编码、多头注意力、Encoder 结构都拆完了很多人到这里会有个错觉Decoder 不就是把 Encoder 复制六层中间再加一层注意力吗我一开始也这么想过。直到自己卡在掩码矩阵的维度上整整一个下午才明白这个直觉有多危险。Transformer 的 Decoder 结构本质是一个自回归生成器——它必须在“只能看见已经生成的部分”这个硬约束下把编码器压缩出来的全局语义向量一步一步翻译成目标序列。这个约束不是可选项是整个模型能不能训起来的生死线。这篇文章要干的事情很明确把 Decoder 的每一层、每一个张量形状、每一个掩码由来从头到尾捋一遍。核心关键词会反复出现Encoder-Decoder 架构、自回归、掩码自注意力Masked Self-Attention、交叉注意力Cross-Attention、残差连接与层归一化、KV Cache、Teacher Forcing。我会给出完整的 PyTorch 实现、参数量和显存的算例、以及实际操作里那些文档从来不写的坑。适合谁看如果你已经能看懂 Encoder 的代码但对“为什么 Decoder 要多一层注意力”“推理时为什么要缓存”“掩码加到哪个维度”这些问题说不清楚那这篇就是给你补的。如果你是完全的新手也建议硬着头皮往下读因为我在每个关键位置都补了生活化的类比和形状标注跟着推一遍形状就不会再乱。一句话概括 Decoder 的工作方式它像一个只能往前写的作家每写一个字都要回头看一眼自己已经写了什么掩码自注意力再低头翻一下手边的参考资料交叉注意力然后决定下一个字。这两次“看”的顺序不能颠倒也不能合并因为它们解决的是完全不同的两个问题。1.1 从“全局理解”到“逐字吐出”的范式切换Encoder 干活的方式是并行的、全局的。一整句话我 爱 中 国一次性喂进去每个位置都能看到其他所有位置输出的是一组等长的、融合了上下文信息的向量序列。它对“输入是什么意思”这件事已经形成了完整的判断。但 Decoder 要做的恰恰相反它手里只有一张还没有写完的纸必须从BOS开始一个字一个字地往外蹦每蹦一个字就把这个字追加到自己的输入里再反过来影响下一个字的判断。这种“输出反过来当输入”的机制叫自回归Autoregressive。它的直接后果是训练和推理的行为完全不一样。训练的时候我们手里有完整的目标句子可以直接把它一次性喂进去用掩码保证每个位置只能看到左边的字这叫Teacher Forcing推理的时候没有标准答案只能老老实实循环 T 次每次算一个 token。很多人第一次写 Decoder 就是在这一点上翻车——拿训练代码去推理输出一堆乱码然后怀疑人生。注意Teacher Forcing 不是“作弊”它的目的是让训练可以并行化。如果训练也逐字生成一个长度为 512 的序列就要前向 512 次训练速度会掉一到两个数量级。理解了这一层你就能明白 Decoder 的第一个设计动机掩码不是为了公平是为了让并行训练和串行推理在数学上等价。加了上三角掩码之后第 t 个位置的输出只依赖前 t 个输入这样一次性前向计算出的结果和逐字生成得到的结果是完全一致的。这是整个 Transformer 训练效率的关键所在也是它当年能取代循环神经网络的核心原因之一。1.2 为什么非要多加一层交叉注意力Encoder 已经把源语言信息压缩成了(B, T_src, d_model)的记忆矩阵如果 Decoder 只是简单地把它拼到自己的输入里理论上也能传递信息为什么还要专门设计一层交叉注意力原因在于信息的使用方式不同。拼接是一种“静态混合”源语言向量的影响是固定的不随当前生成到哪个词而变化。而翻译这件事恰恰需要动态聚焦生成“我”的时候要重点看源句的主语位置生成“爱”的时候要重点看谓语位置。交叉注意力给出的正是这种能力——它把 Decoder 当前的隐藏状态当作 Query把 Encoder 的输出当作 Key 和 Value计算出每个源位置对当前这个目标词的权重然后加权求和。换句话说Query 来自解码端Key 和 Value 来自编码端这个方向千万不能反。我见过不止一个同学把交叉注意力写成self.cross_attn(memory, x, x)结果 loss 也能降但收敛得特别慢BLEU 一直上不去。原因就是方向反了之后模型实际上在拿源语言的向量去查询目标语言的位置语义上完全对不上。判断方法很简单交叉注意力的注意力权重矩阵形状应该是(B, h, T_tgt, T_src)如果算出来是(B, h, T_src, T_tgt)那就是写反了。提示交叉注意力里不需要加三角掩码。它的 Key 是完整的源序列每个目标位置都应该能看到全部源位置。唯一要加的是源端的 padding 掩码把补齐的空位屏蔽掉。1.3 三种架构变体的取舍决定了你后面所有的工程细节理解了 Encoder-Decoder 的分工之后横向对比一下三种主流变体会很有帮助因为你在实际项目里选错结构后面补都补不回来。结构类型核心组件典型任务优势代价编码器-解码器双向编码 掩码解码 交叉注意力机器翻译、文本摘要、语音识别源序列可双向理解输入输出长度解耦参数量大结构复杂推理要维护两份状态纯解码器仅掩码自注意力 前馈开放式文本生成、对话、代码补全结构统一训练目标简单易扩展到超大规模无法对输入做双向建模长依赖靠堆层数纯编码器仅双向自注意力 前馈文本分类、句子向量、检索表征质量高推理快不具备生成能力这张表背后有个很实际的判断当你的输入和输出是两种不同模态、或者长度差异很大时编码器-解码器几乎是唯一选择。翻译里中文 20 个字可能对应英文 40 个词语音识别里 3 秒音频对应十几个字这种“输入输出不对齐”的场景如果硬用纯解码器模型得自己学会在生成过程中“回头看”效果通常会差一截。反过来如果你做的是开放域对话或者代码补全输入和输出本质是同一种东西那纯解码器会更划算——它的训练目标是统一的下一个词预测不需要构造两套掩码工程复杂度直接降一半。我自己做小规模实验的时候有个体会参数量在 1 亿以下时编码器-解码器在翻译类任务上收敛更快一旦参数量上去、数据量上去纯解码器的扩展性优势就会盖过结构上的那点精巧设计。所以选型的时候不要只看论文里的对比表格先问自己一句话我的输入和输出是不是同一类东西2. 逐层拆解四个子层、两次残差、三道归一化原论文里 Decoder 一层由三个子层组成掩码多头自注意力、编码器-解码器交叉注意力、前馈网络。每个子层后面跟一次残差加层归一化。现代实现里还会在几个位置塞 dropout。这一节我按数据流顺序把每个子层拆开讲重点讲那些“看代码觉得理所当然动手写就出错”的地方。2.1 掩码自注意力那个上三角矩阵到底长什么样掩码自注意力的计算流程和普通自注意力完全一样唯一的区别是在 softmax 之前把不该看到的位置的分数设成负无穷。以目标序列长度为 5 为例掩码矩阵长这样True 表示屏蔽位置: 0 1 2 3 4 0 [ F T T T T ] 1 [ F F T T T ] 2 [ F F F T T ] 3 [ F F F F T ] 4 [ F F F F F ]第 0 个位置只能看自己第 2 个位置能看 0、1、2以此类推。这个矩阵由torch.triu(torch.ones(T, T), diagonal1).bool()一行生成注意diagonal1而不是 0因为对角线本身自己看自己是允许的。但真实场景里你还有第二种掩码padding 掩码。一个 batch 里的句子长度不一样短的要用PAD补齐这些位置必须一起屏蔽掉。两种掩码要合并写法上有个坑# tgt_pad_mask: (B, T_tgt) True 表示是 padding # causal_mask: (T_tgt, T_tgt) True 表示被屏蔽 pad tgt_pad_mask[:, None, None, :] # (B, 1, 1, T_tgt) causal causal_mask[None, None, :, :] # (1, 1, T_tgt, T_tgt) mask pad | causal # (B, 1, T_tgt, T_tgt)维度必须能广播到(B, h, T_tgt, T_tgt)。我第一次写的时候把 pad 写成了[:, None, :, None]形状变成(B, 1, T_tgt, 1)广播之后变成屏蔽“某一列”结果 loss 能降但生成全是重复词排查了很久才发现。这是一个非常隐蔽的问题因为 PyTorch 不会报错它只会安静地做错事。注意如果某一行被全部屏蔽比如整句话都是 paddingsoftmax 会出现全-inf导致 NaN。稳妥的做法是在masked_fill之后加一个极小的容错或者干脆保证每个 batch 至少有一个有效 token。2.2 交叉注意力Q、K、V 的来源与形状对齐交叉注意力的实现和自注意力共用同一个多头注意力模块只是三个输入的来源不同Query 来自 Decoder 上一层的输出形状(B, T_tgt, d_model)Key、Value 来自 Encoder 的最终输出形状(B, T_src, d_model)拆分多头之后Q 是(B, h, T_tgt, d_k)K 和 V 是(B, h, T_src, d_k)注意力分数是(B, h, T_tgt, T_src)。这个形状一定要记住它是排查交叉注意力问题的第一把尺子。这里有个经常被忽略的细节位置编码只加在 Decoder 的输入侧一次交叉注意力里不再加位置编码。原因是 Key 那边已经带过位置信息了Encoder 输入时加的你在交叉注意力里再加一遍等于重复注入会让模型对源语言位置的敏感度失真。我在一个小规模翻译实验里对比过重复加位置编码会让收敛速度慢大概 15% 到 20%最终指标也差一点。另外交叉注意力也是整个 Decoder 里参数最多的地方之一。以d_model512为例四个投影矩阵W_q、W_k、W_v、W_o各是512×512合计约 105 万参数和前馈网络的一半差不多。所以如果你的显存紧张交叉注意力是一个值得关注的地方但一般不建议砍——砍了它Decoder 就退化成纯解码器了。2.3 残差与归一化Post-LN 和 Pre-LN 的实战差异原论文用的是 Post-LNx LayerNorm(x Sublayer(x))归一化放在残差相加之后。这个方案在浅层网络上没问题但层数一多梯度在反向传播时要穿过每一层的 LayerNorm很容易在训练初期炸掉。后来又出现了 Pre-LNx x Sublayer(LayerNorm(x))归一化放在子层之前残差路径变成一条“干净的高速公路”梯度可以直接回流到最底层。实测下来的差异非常明显。我用同一个配置6 层、d_model512、8 头跑过两组对照Post-LN 版本在前 2000 步经常出现 loss 突然冲到几十再慢慢降下来的情况必须配 learning rate warmup 才稳Pre-LN 版本从第 100 步开始就平滑下降warmup 步数可以砍掉一半。代价是 Pre-LN 的最终表征需要额外做一次归一化通常放在整个 Decoder 堆叠之后否则输出尺度和预期不一致。这里有个实操建议如果你在复现原论文的实验就老老实实用 Post-LN 加 warmup如果是自己搭新项目直接用 Pre-LN能省掉一大堆调参时间。两者在最终指标上的差距通常很小但训练稳定性差得不是一点半点。2.4 输出层与权重共享那个容易被忽略的省参数技巧Decoder 堆叠完之后输出要通过一个线性层映射到词表维度(B, T_tgt, vocab_size)再算交叉熵。这个线性层的参数量是d_model × vocab_size当词表是 3 万、d_model512时就有 1500 万参数比 6 层 Decoder 主体还大。原论文用了一个很聪明的做法让输出线性层的权重和输入词嵌入矩阵共享。理由很直观——输入时把词 ID 映射成向量输出时把向量映射回词 ID这两个操作本质上是同一个语义空间的互逆变换共享权重既能省参数又能起到正则化作用。这个技巧在今天几乎所有生成式模型里都在用但很多手写实现会忘掉。如果要共享记得在初始化时把嵌入矩阵乘上sqrt(d_model)因为共享之后输出层的数值尺度会受影响不缩放的话 logits 会偏小softmax 之后分布过于平坦训练初期梯度信号很弱。这个细节在论文里只是一句话带过但实际影响不小。3. 手写一个 Decoder从形状约定到增量推理理论讲完接下来是能直接跑的部分。我按“先定形状、再写模块、最后验证”的顺序来这套流程是我自己写新模块时的固定套路能挡掉八成低级错误。3.1 先定张量约定再动手写代码动手之前先把约定写死在注释里后面所有代码都围绕它B batch size T_tgt 目标序列长度解码端 T_src 源序列长度编码端 d_model 模型维度512 h 注意力头数8 d_k 每个头的维度 d_model // h 64 d_ff 前馈隐层维度2048 V 词表大小有了这套约定所有形状都能推出来Decoder 输入(B, T_tgt)的词 ID经过嵌入加位置编码变成(B, T_tgt, 512)穿过每层形状不变最后输出(B, T_tgt, V)。中间任何一步形状不对立刻就能定位到是哪一层出的问题。我建议在代码里加一个形状断言函数训练前跑一遍def check_shape(t, expect, name): assert tuple(t.shape) expect, f{name}: 期望 {expect}实际 {tuple(t.shape)}看起来土但真能省时间。尤其是改多头拆分那段view和transpose的顺序错一次形状就会变成(B, T, h, d_k)而不是(B, h, T, d_k)后面 matmul 直接报错报错信息还特别难读。3.2 多头注意力模块含掩码支持import math import torch import torch.nn as nn class MultiHeadAttention(nn.Module): def __init__(self, d_model512, n_heads8, dropout0.1): super().__init__() assert d_model % n_heads 0, d_model 必须能被 n_heads 整除 self.d_model d_model self.h n_heads self.d_k d_model // n_heads self.w_q nn.Linear(d_model, d_model) self.w_k nn.Linear(d_model, d_model) self.w_v nn.Linear(d_model, d_model) self.w_o nn.Linear(d_model, d_model) self.drop nn.Dropout(dropout) def forward(self, q, k, v, maskNone): B, Tq, _ q.shape Tk k.shape[1] # 拆多头: (B, T, d_model) - (B, h, T, d_k) Q self.w_q(q).view(B, Tq, self.h, self.d_k).transpose(1, 2) K self.w_k(k).view(B, Tk, self.h, self.d_k).transpose(1, 2) V self.w_v(v).view(B, Tk, self.h, self.d_k).transpose(1, 2) scores Q K.transpose(-2, -1) / math.sqrt(self.d_k) if mask is not None: scores scores.masked_fill(mask, float(-inf)) attn self.drop(torch.softmax(scores, dim-1)) out attn V # (B, h, Tq, d_k) out out.transpose(1, 2).contiguous().view(B, Tq, self.d_model) return self.w_o(out)这个模块被复用了两次自注意力传(x, x, x, tgt_mask)交叉注意力传(x, memory, memory, src_mask)。共用一个类的好处是参数初始化逻辑统一下来不会出现两个模块初始化标准差不一样导致训练不平衡的问题。3.3 完整的 Decoder Layerclass DecoderLayer(nn.Module): def __init__(self, d_model512, n_heads8, d_ff2048, dropout0.1): super().__init__() self.self_attn MultiHeadAttention(d_model, n_heads, dropout) self.cross_attn MultiHeadAttention(d_model, n_heads, dropout) self.ffn nn.Sequential( nn.Linear(d_model, d_ff), nn.GELU(), nn.Dropout(dropout), nn.Linear(d_ff, d_model), ) self.ln1 nn.LayerNorm(d_model) self.ln2 nn.LayerNorm(d_model) self.ln3 nn.LayerNorm(d_model) self.drop nn.Dropout(dropout) def forward(self, x, memory, tgt_maskNone, src_maskNone): # 子层 1掩码自注意力Pre-LN 写法 h self.ln1(x) x x self.drop(self.self_attn(h, h, h, tgt_mask)) # 子层 2交叉注意力Q 来自解码端K/V 来自编码端 h self.ln2(x) x x self.drop(self.cross_attn(h, memory, memory, src_mask)) # 子层 3前馈网络 h self.ln3(x) x x self.drop(self.ffn(h)) return x这里前馈网络我用的是 GELU 而不是原论文的 ReLU。这个改动在生成任务上通常有小幅收益原因是 GELU 在零点附近是平滑的负值区域不会被直接截断梯度信号更连续。如果你的任务对延迟特别敏感ReLU 更快可以换回去差距不大。再来看参数量的具体数字d_model512、d_ff2048、h8组件计算式参数量自注意力4 × 512 × 5121,048,576交叉注意力4 × 512 × 5121,048,576前馈网络2 × 512 × 2048 偏置2,099,712三个 LayerNorm3 × 2 × 5123,072单层合计—约 4.20 M六层堆叠约 25.2 M加上词嵌入30000 × 512 ≈ 15.4 M如果共享输出层不额外增加整体在 4000 万参数量级。这个数字和原论文的 base 版本基本吻合可以作为你自查实现是否漏层的参考——如果你的单层参数量对不上多半是少了某个投影矩阵或者 LayerNorm。3.4 自回归推理与 KV Cache训练用 Teacher Forcing 一次性前向推理必须循环。最朴素的写法是这样torch.no_grad() def greedy_decode(model, memory, src_mask, bos_id, eos_id, max_len64): B memory.size(0) ys torch.full((B, 1), bos_id, dtypetorch.long, devicememory.device) for _ in range(max_len): logits model.decode(ys, memory, src_mask) # (B, T, V) next_tok logits[:, -1, :].argmax(dim-1, keepdimTrue) ys torch.cat([ys, next_tok], dim1) if (next_tok eos_id).all(): break return ys能跑但性能很差。每一步都把整个已生成的序列重新算一遍注意力总计算量是O(T^2)的重复劳动。优化手段就是KV Cache自注意力的 Key 和 Value 一旦算过就不会变缓存起来每步只算新 token 的 Q和缓存拼接即可。class CachedSelfAttention(nn.Module): 演示用简化版只缓存 K/V不做多头拆分的最优实现 def __init__(self, attn: MultiHeadAttention): super().__init__() self.attn attn self.cache_k None self.cache_v None def reset(self): self.cache_k, self.cache_v None, None def step(self, x_t): B, T, _ x_t.shape assert T 1, 增量推理每步只应输入一个 token k self.attn.w_k(x_t) v self.attn.w_v(x_t) if self.cache_k is None: self.cache_k, self.cache_v k, v else: self.cache_k torch.cat([self.cache_k, k], dim1) self.cache_v torch.cat([self.cache_v, v], dim1) return self.attn(x_t, self.cache_k, self.cache_v, maskNone)缓存带来的显存开销要提前算清楚。公式是KV 显存 ≈ 2 × 层数 × 头数 × 序列长度 × d_k × batch × 字节数代入一个中等规模配置32 层、32 头、d_k128、序列长度 2048、单条请求、fp162 × 32 × 32 × 2048 × 128 × 2 字节 ≈ 1.07 GB也就是说光是缓存就吃掉 1 GB 显存而且这个数字随序列长度线性增长、随 batch 线性增长。这就是为什么长上下文推理那么吃显存——不是模型本身大是缓存撑爆了。解决办法有分页管理、量化缓存、多查询注意力等但那些属于工程优化不是结构本身的问题这里不展开。注意使用 KV Cache 时自注意力层不需要再加因果掩码因为每步只输入一个新 token天然只能看见缓存里的历史不存在“看见未来”的可能。但如果你把 cache 用错方向比如拼到了前面结果会完全错乱而且不会报错。3.5 训练侧的关键配置标签平滑与右移训练时 Decoder 的输入是目标序列右移一位输入BOS 我 爱 中 国标签是我 爱 中 国 EOS。这个右移操作看起来是小事写错了就是一整轮的浪费。判断方法如果模型训完之后生成的第一词永远是高频词或者 loss 降到某个值就再也不动先去检查这个偏移。损失函数我一般会加标签平滑系数 0.1criterion nn.CrossEntropyLoss(ignore_indexpad_id, label_smoothing0.1)标签平滑的作用是防止模型对某个词产生过度自信让输出分布稍微平缓一点泛化会好一些。副作用是困惑度指标会略微变差因为分布被有意模糊了但实际生成质量通常更好。这个参数 0.1 是个经验值我试过 0.05 到 0.2 的区间0.1 附近比较稳再大会明显拖慢收敛。ignore_index必须设置否则 padding 位置也会贡献 loss而且因为 padding 占比高模型会倾向于预测 padding生成时容易提前结束。4. 踩过的坑Decoder 排查清单这一节是我这些年积累下来最值钱的部分。Decoder 的问题有个共同特点——大部分不报错只是效果差所以必须靠对照实验和数值检查来定位。4.1 常见问题速查表现象最可能原因排查动作训练 loss 完全不降掩码方向反了用了下三角打印掩码矩阵确认位置 0 只有自己可见loss 能降但生成全是重复词右移写错或没右移检查输入与标签是否错开一位生成在第一个词就结束padding 的ignore_index漏配检查 loss 是否把 PAD 算进去了训练正常推理输出乱码训练/推理的掩码不一致推理时不应再叠因果掩码出现 NaN某一行被全掩码softmax 全-inf检查 padding 是否整句为空长序列效果断崖下跌位置编码外推问题检查训练与推理的最大长度是否一致显存随生成长度持续上涨KV Cache 未释放或重复拼接每轮请求结束调用 reset交叉注意力梯度异常小memory 被 detach 或requires_gradFalse检查编码器输出是否参与计算图这张表里的前四条我几乎每次带新人都会遇到至少两条。它们的共同点是“程序不报错”只能靠现象反推。4.2 掩码问题为什么这么难查掩码的难点在于它在数学上是“合法的”。你把上三角改成下三角矩阵照样是布尔矩阵masked_fill照样执行softmax 照样出结果只有语义错了。而语义错误的表现又是渐进的——loss 会降但降得慢最终指标差一截你很难判断是掩码的问题还是超参数的问题。我的排查办法是做一个“泄漏测试”构造一个极小的数据集让目标序列的第 t 个位置和源序列有强对应关系然后训练几十步看模型能不能学到。如果学不到八成是掩码把它该看的信息挡掉了。另一个办法更直接把注意力权重打出来看——正常情况下自注意力的权重矩阵应该是下三角形状上三角全为零如果看到上三角有非零值立刻就能定位。还有一个隐蔽的情况你在训练时加了掩码但推理时用了maskNone。这在增量解码里是对的但在“一次性喂入完整序列做评估”时就是错的模型会看到未来信息评估指标虚高一大截。这种情况在验证集上表现得特别明显——指标好得不像话一上真实场景就崩。我建议在推理代码里显式区分两条路径并且给它们不同的函数名别用同一个函数加分支。4.3 训练不稳定先从这三处下手如果你遇到 loss 抖动、梯度爆炸、训练中途发散按这个顺序查第一看 LayerNorm 的位置。Post-LN 加 warmup 是标配warmup 步数一般取总步数的 1% 到 5%学习率峰值按d_model的负平方根缩放。这两条不满足前几百步很容易炸。第二看 dropout 的分布。原论文在三个位置加了 dropout子层输出之后、注意力权重上、位置编码上。实际实现里注意力权重上的 dropout 影响最大0.1 是个稳妥值。如果你的数据量小可以加到 0.2 到 0.3数据量大就保持 0.1。第三看梯度裁剪。clip_grad_norm_(params, 1.0)基本是标配但很多人忘了加然后怪模型不稳定。我做过对比同样的配置加了裁剪之后训练曲线平滑度提升非常明显。提示如果排查完这三点还是不稳去检查一下词嵌入的初始化标准差。默认的N(0, 1)对d_model512来说偏大乘上sqrt(d_model)缩放之后会好很多。这个小细节在原论文的附录里正文没提。5. 影响面Decoder 结构如何塑造了今天的生成式模型拆完结构最后聊聊这套设计的实际影响因为它决定了你后面所有的技术选型。5.1 为什么后来的大模型大多只留了 DecoderEncoder-Decoder 的设计非常优雅但工程上有两个硬伤。一是结构复杂两套堆叠、两套掩码、两套位置编码调试成本翻倍二是训练目标的利用率不高——编码器只负责理解解码器只负责生成两者的能力没法互相迁移。纯解码器架构把这两件事统一成了“下一个词预测”。输入的理解和输出的生成走同一条路径所有参数都在为同一个目标服务。这样做的好处是扩展性极好——你想加数据、加参数、加层数什么都不用改结构。这也是为什么在参数规模上到十亿、百亿之后纯解码器几乎成了默认选择。但我不认为编码器-解码器过时了。在翻译、摘要、语音识别这类“输入输出形态差异大”的任务上它的结构优势依然明显。我做过一个小规模对比同样的参数预算下摘要任务里编码器-解码器的 ROUGE 分数比纯解码器高 2 到 3 个点差距不算小。所以选型还是要回到任务本质别被趋势带跑。5.2 结构改动带来的连锁反应Decoder 的每一个组件改动都会向下影响一整条工程链路这点很多人只在论文里看到、没在实际项目里体会过。改多头数h直接影响d_k d_model / h。d_k太小比如 16会让每个头的表达容量不够注意力分布趋同d_k太大比如 256会让计算量上涨而收益递减。经验上d_k保持在 64 到 128 之间比较稳超出这个范围要重新调学习率。改层数直接影响 KV Cache 显存。层数翻倍缓存直接翻倍长上下文场景下可能从能跑变成跑不动。这也是为什么很多推理优化方案优先在层这一维度上做文章。改前馈维度d_ff是最直接的容量调节手段但也最容易造成训练不稳定。d_ff从 2048 提到 4096参数量翻倍梯度尺度也会变学习率要跟着调。我个人的经验是先把d_model、h、d_ff、层数这四个数固定成一组经典比例比如 512 / 8 / 2048 / 6把流程跑通、指标跑出来再一个一个动。同时动两个以上的超参数你永远不知道是哪个起的作用。还有一点值得提Decoder 的交叉注意力在小数据场景下很容易过拟合。我在一个只有几万条平行语料的实验里观察到交叉注意力的 dropout 从 0.1 提到 0.3验证集指标涨了近 2 个点。这个参数在文档里通常不会特别强调但在低资源场景下是必须调的。最后分享一个小技巧。写完 Decoder 之后别急着上真实数据先做一次“恒等映射测试”构造一个目标序列等于源序列的任务比如复制任务看模型能不能在几百步内学到 100% 准确率。这个测试能一次性验证掩码方向、右移逻辑、交叉注意力方向、输出层形状这四件事。我自己每次重构 Decoder 都会先跑这个测试它比任何单元测试都管用——因为复制任务本身就是对“信息能不能正确流动”的完整检验。
 】Docker与容器（上篇）)
