RNN/LSTM

RNN 在语音识别、自然语言处理、OCR中，输入的单个样本前后是有关联的，比如说，我/想/吃/香蕉，吃后面肯定要有个名词，动词后面不可能动词，所以说前面的词对后面的词的预测很重要，怎样表达出这种前后关联呢？ 普通的CNN\DNN本次的样本经过网络后的输出跟上一个样本的输入和输出都没有关系， 但是在RNN中，通过网络结构建立了这种联系； 总结来说： RNN的结构，就是某一隐层的输入，不光来自其上一层

>>阅读原文<<