NLP学习04--长短时间记忆网络LSTM

一.长短时间记忆网络LSTM简介 LSTM是对RNN的改进和升级，在RNN模型中，对于长期依赖的问题可能产生梯度消失和梯度爆炸，而在RNN的基础上改进而来的LSTM则特别适合解决这类须要长时间依赖的问题。LSTM相对于RNN的不一样使，LSTM将“记忆细胞”进行了改造，而不是像RNN那样只有一个简单的激活函数。在LSTM中，须要记录的信息会一直传递，不须要记录的信息会被截断掉 以下图所示，部分输出

>>阅读原文<<