技能介绍

解决什么问题

在深度学习的日常开发中，当你需要实现、调试或向他人解释 Transformer 架构时，往往需要回到 Vaswani 等人的 2017 年经典论文《Attention Is All You Need》。然而，从头推导自注意力机制的公式、核对 base 和 big 模型的超参数差异，或是查找 WMT 2014 翻译任务的 BLEU 基准分数，不仅耗时，还容易在细节上出错。这个技能旨在消除这些重复性查阅工作，让模型能够直接调用经过整理的 Transformer 核心知识。

技能如何工作

该技能将原始论文的核心内容封装为结构化的知识库，主要包括以下能力：

核心概念解析：解释自注意力（Self-Attention）、多头注意力（Multi-Head Attention）以及位置前馈网络（Position-wise FFN）的运作机制。
公式与复杂度提取：通过 references/key-equations.md 提供可直接复制的 LaTeX 公式，并包含自注意力与循环网络在计算复杂度上的对比表。
超参数与基准参考：准确输出 d_model = 512、6 层编码器/解码器等关键配置，以及 WMT 2014 英法翻译（41.0 BLEU）和英语成分句法分析（F1 91.3）的结果。
深度文献回溯：当需要引用原文或深入细节时，可直接调用打包在 assets/attention-is-all-you-need.pdf 中的 15 页原始 PDF，或查阅 references/paper-notes.md 中的逐节笔记。

适用边界与注意点

需要注意的是，这是一个知识管理技能，而非完整的模型实现代码库。它提供的是架构原理、数学推导和实验数据，不包含可直接运行的 PyTorch 或 TensorFlow 训练脚本。如果你需要的是开箱即用的 Transformer 模块，建议结合官方开源框架使用。此外，对于论文中未涵盖的现代变体（如 BERT、GPT 或 FlashAttention），该技能无法提供指导，需结合其他最新文献进行补充。