Attention Transformer 精简原理总结

目录   一. Attention 二. Self-Attention 三. Transformer 3.1 multi-headed 3.2 Positional Encoding 3.3 Add & Normalize 残差网络 Layer Normalization 一. Attention Attention函数的本质可以被描述为一个查询（query）到一系列（键key-值value）对的

>>阅读原文<<