RNN-bptt简单推导

摘要: 在前面的文章里面,RNN训练与BP算法,我们提到了RNN的训练算法。但是回头看的时候在时间的维度上没有做处理,所以整个推导可能存在一点问题。 那么,在这篇文章里面,我们将介绍bptt(Back Propagation Through Time)算法如在训练RNN。 关于bptt 这里首先解释一下所谓的bptt,bptt的思路其实很简单,就是把整个RNN按时间的维度展开成一个“多层的神经网络
相关文章
相关标签/搜索