RNN-LSTM-GRU学习笔记

摘要： 本文用于总结整个RNN的学习过程以及学习资料。 RNN 1.下文是rnn利用Bptt的训练的推导过程。 RNN与bptt推导过程 2.rnn一些基本概念以及问题分析 参考文章-1 RNN中为什么要采用tanh而不是ReLu作为激活函数？ 常见问题： 1.RNN是什么？ RNN是循环神经网络的简称。常用来对时间序列建模，具体来说就是一个序列当前的输出和前面的输出也有关，应用场景主要有自然语言

>>阅读原文<<