RNN,LSTM,GRU自己笔记

RNN的前向传播: 这里是一张清理后的神经网络示意图,和我之前提及的一样,一般开始先输入,它是一个零向量。接着就是前向传播过程,先计算激活值,然后再计算。 我将用这样的符号约定来表示这些矩阵下标,举个例子,第二个下标意味着要乘以某个类型的量,然后第一个下标表示它是用来计算某个类型的变量。同样的,可以看出这里的乘上了某个类型的量,用来计算出某个类型的量。 循环神经网络用的激活函数经常是tanh,不过
相关文章
相关标签/搜索