NLP学习笔记——Transformer模型

NLP学习笔记——Transformer模型 1.概述 《Attention Is All You Need》是Google在2017年提出的一篇将Attention思想发挥到极致的论文。该论文提出的Transformer模型,基于encoder-decoder架构,抛弃了传统的RNN、CNN模型,仅由Attention机制实现,并且由于encoder端是并行计算的,训练时间大大缩短。 Trans
相关文章
相关标签/搜索