LSTM中隐层神经元的传播机制

相较于RNN，LSTM只是改变了隐含层中神经元在不同时刻的传播机制 将隐层某个神经元看成一个cell, 这个cell有3个输入，上一个时刻的隐层某神经元的保留状态 Ct−1 ,上一个时刻的隐层某神经元输出的传递信息 ht−1 , 当前时刻的样本 Xt , 该cell由3个gate(forget, input, output)控制。 一、通过忘记门决定从cell中丢失什么信息： ft=sigmoid

>>阅读原文<<