Pytorch实现LSTM和GRU

为了解决传统RNN没法长时依赖问题，RNN的两个变体LSTM和GRU被引入。html LSTM Long Short Term Memory，称为长短时间记忆网络，意思就是长的短时记忆，其解决的仍然是短时记忆问题，这种短时记忆比较长，能必定程度上解决长时依赖。 上图为LSTM的抽象结构，LSTM由3个门来控制，分别是输入门、遗忘门和输出门。输入门控制网络的输入，遗忘门控制着记忆单元，输出门控制着网

>>阅读原文<<