长短时间记忆神经Long Short-Term Memory（ LSTM）

LSTM RNN 基本的算法思想是随时间反向传播算法，但在随时间反向传播过程当中，跨时间步和长时间学习使后续节点的梯度每每不能按照初值传到最初的位置，容易出现梯度弥散问题。算法 为了克服梯度弥散的缺点,RNN的众多变体被提出，其中 LSTM 就是 RNN 变体中一种普遍应用的经典变体。LSTM 单个神经 元的具体结构如图 2 所示。网络  LSTM 的具体工做原理能够经过如下几个公式进行理解：函数

>>阅读原文<<