【DL】循环神经网络RNN、长短时间记忆网络LSTM、门控循环单元网络GRU

  前馈神经网络能够看做一个复杂的函数，每次输入都是独立的，即网络的输出只依赖于当前的输入。可是在不少现实任务中，网络的输出不只和当前时刻的输入相关，也和其过去一段时间的输出相关。好比一个有限状态自动机，其下一个时刻的状态（输出）不只仅和当前输入相关，也和当前状态（上一个时刻的输出）相关。此外，前馈网络难以处理时序数据，好比视频、语音、文本等。时序数据的长度通常是不固定的，而前馈神经网络要求输入和

>>阅读原文<<