RNN中的门控循环单元GRU

1. RNN隐层单元结构可视化 下面是一个基本的RNN隐层单元结构: 其中,a是上一个时刻的激活函数输出值,x是当前时刻的输入,y是当前时刻的输出。 要理解这个单元结构,需要注意2点: a与x结合,通过激活函数的作用后,有两个分支,一个分支作为下一个时刻的输入a 另一个分支通过softmax作用后,作为当前时刻的输出y 2. GRU单元中的符号 GRU(Gated Recurrent Unit)是
相关文章
相关标签/搜索