LSTM学习笔记

一.rnn结构的BPTT学习算法存在的问题 先看一下比较典型的BPTT一个展开的结构,如下图,这里只考虑了部分图,因为其他部分不是这里要讨论的内容。 对于t时刻的误差信号计算如下: 这样权值的更新方式如下: 上面的公式在BPTT中是非常常见的了,那么如果这个误差信号一直往过去传呢,假设任意两个节点u, v他们的关系是下面这样的: 那么误差传递信号的关系可以写成如下的递归式: n表示图中一层神经元的
相关文章
相关标签/搜索