深入浅出Transformer

Transformer Transformer是NLP的颠覆者，它创造性地用非序列模型来处理序列化的数据，而且还获得了大成功。更重要的是，NLP真的可以“深度”学习了，各种基于transformer的模型层出不穷，如BERT、GPT-2、T-NLG，而且模型参数量呈指数级增长。 Transformer之前，大家的思路都是在改进序列模型，从RNN到LSTM、GRU、Seq2Seq。如果你看过我之前写

>>阅读原文<<