技能介绍

正在被反复重写的公式

讨论 Transformer 时，我们常常在上下文里直接给出 Scaled Dot-Product Attention 和 Multi-Head Attention 的结果，这容易导致后续解释偏离原论文的推导。会议或在线教程里引用的 BLEU 分数、d_model、层数或学习率调整策略，往往需要翻看原文重新确认。如果只是临时凭记忆说明，后续在写代码或复现实验时很容易出错。

论文知识被拆成三层

顶层摘要：核心思想、架构与关键数字，用于快速核对
references/key-equations.md：可以直接复制的 LaTeX 公式与复杂度表
references/paper-notes.md：逐节整理的架构说明、训练设置与附录内容
assets/attention-is-all-you-need.pdf：原始 15 页论文，便于引用与追溯

覆盖的典型问题

当你在讨论自注意力相对 RNN/LSTM 的优势、多头注意力的作用，或位置编码如何接入时，本技能可以按上述资源直接给出解释。它也会在你需要 base 与 big 配置的具体数值、WMT 2014 EN-DE / EN-FR 的 BLEU 分数，或英文成分句法分析的 F1 结果时，避免重新推导。对于要实现 Transformer block、注意力层或准备论文引用的人，都能获得统一的参考来源。

边界与注意点

本技能封装的是论文知识，并不包含可运行的训练脚本，也不会自动检索 arXiv 新版本。进行大规模复现时，仍需结合当前的框架实现与硬件条件另行评估。论文数据对应的是作者当时的实验设置，迁移到新任务时应重新验证超参数与成本。解释时也要区分摘要中的概括与 references/ 中更完整的说明，避免把结论范围扩大到论文之外。