LSTM神经网络 和 GRU神经网络

LSTM是什么 LSTM即Long Short Memory Network，长短时记忆网络。它其实是属于RNN的一种变种，可以说它是为了克服RNN无法很好处理远距离依赖而提出的。 我们说RNN不能处理距离较远的序列是因为训练时很有可能会出现梯度消失，即通过下面的公式训练时很可能会发生指数缩小，让RNN失去了对较远时刻的感知能力。 解决思路 RNN梯度消失不应该是由我们学习怎么去避免，而应该通过改

>>阅读原文<<