浅谈LSTM(long-short Time Memory)

LSTM存在三个门控,“记忆门”,“遗忘门”,“输出门”。它有一个特殊的状态就是细胞状态,类似一个“传送带”,信息在上面传输保持不变很容易,用来记忆之前的信息。细胞状态的更新来自记忆门和遗忘门以及上一时间刻的细胞状态。LSTM是为了解决RNN梯度消失的一种改进。LSTM可以理解为“延长短时记忆”,“遗忘门”表示遗忘上一时刻细胞状态的概率,(0:遗忘,1:记忆),即:它会根据当前时刻的输入,上一时刻
相关文章
相关标签/搜索