GRU与LSTM总结

1、LSTM（长短时间记忆网络） LSTM是一种特殊的RNN类型，通常的RNN结构以下图所示，是一种将以往学习的结果应用到当前学习的模型，可是这种通常的RNN存在着许多的弊端。举个例子，若是咱们要预测“the clouds are in the sky”的最后一个单词，由于只在这一个句子的语境中进行预测，那么将很容易地预测出是这个单词是sky。在这样的场景中，相关的信息和预测的词位置之间的间隔是很

>>阅读原文<<