RNN的前向传播和反向传播

在上一节当中，我们讲到了RNN的其中一个特点是参数共享，在这一节当中，我们用具体代码来展示RNN的前向传播。 首先是给出每一个参数具体的值： W指的是相邻时刻隐藏单元间的权重矩阵，U指的是从X(t)计算得到的对应隐藏单元时用到的权重矩阵;V是由h(t)计算得到o(t)时用到的权重矩阵；b_o是由h(t)计算得到o(t)时用到的偏置值。 这就是一个简单循环神经网络的前向传播计算过程，输出的O(t)就

>>阅读原文<<