吴恩达深度学习笔记（deeplearning.ai）之循环神经网络（RNN）（三）

1. 导读 本节内容介绍普通RNN的弊端，从而引入各种变体RNN，主要讲述GRU与LSTM的工作原理。 事先声明，本人采用ng在课堂上所使用的符号系统，与某些学术文献上的命名有所不同，不过核心思想都是相同的。 2. 普通RNN的弊端 在NLP中，句子内部以及句子之间可能存在很长的依赖关系（long-term dependecies），最前边的单词对句子后面的单词产生影响。但是普通RNN不擅长捕获这

>>阅读原文<<