SRU介绍

1.背景介绍     RNN模型在机器翻译,语言模型,问答系统中取得了非凡的成就,因为RNN的结构,当前的层输入为前一层的输出,全部RNN比较适合时间序列问题,但也正是因为这种串行结构,限制了RNN模型的训练速度,与CNN相比,RNN并不能进行并行化处理。而SRU网络结构的提出就是为了解决这个问题,SRU(simple recurrent units)将大部分运算放到进行并行处理,只是将有具备小量
相关文章
相关标签/搜索