Transformer

时间 2020-12-22

标签深度学习繁體版

原文原文链接

https://zhuanlan.zhihu.com/p/54356280 transformer 在NLP领域，目前最流行的特征抽取器。有encoder 和decoder两部分，其中encoder部分有自注意力和前馈神经网络部分，而decoder部分主要是自注意力、编码解码注意力层和前馈神经网络。在transformer 中一般encoder和decoder 数量一般一样，可能都为6个

>>阅读原文<<

最新文章

本站公众号

欢迎关注本站公众号,获取更多信息

1. transformer详解：transformer/ universal transformer/ transformer-XL
2. 【Transformer】图解 Transformer
3. transformer
4. Transformer
5. Transformer++
6. 学习Transformer（The Illustrated Transformer）
7. Transformer & Bert
8. 读Transformer
9. Transformer LambdaNetworks
10. Star-Transformer

>>更多相关文章<<