RNN及LSTM的简单理解

由于还没有最终理解RNN和LSTM，因此只是做一下记录，后面完全理解后会将此博文进行修改，也希望各位大佬在留言区批评指正。 RNN 单个时刻t的NN t-1，t，t+1时刻的NN，下标t表示时刻，x表示相应时刻下的输入，o表示相应时刻下的输出，s表示相应时刻下的状态，t时刻的输入会组合t-1时刻的状态以及t时刻的输入。 RNN会存在梯度弥散和梯度爆炸的问题，无法实现长期的记忆。因此提出长短期记忆（

>>阅读原文<<