循环神经网络--GRU

这里我们首先来看一下GRU是如何将LSTM的三个门简化成两个门的结构的: 这里的 r r r门(r门这里同样是一个激活函数)控制的是上一个时间戳的状态 s t − 1 s_{t-1} st−1​对我们的当前时间戳状态 s t s_t st​的一个影响,r的取值范围依旧是在0到1之间,也就是说,当你的r门全部关闭(r = 0)的时候,就意味着将上一个时间戳上的状态复位了,从0开始;如果r门全部打开(
相关文章
相关标签/搜索