RNN的几个常见问题

对于序列数据，它的一个重要特性是具有顺序，而RNN的记忆性使它可以处理序列数据。 下面我们来回答几个问题： RNN的结构是什么？ RNN为什么具有记忆功能？ RNN的损失函数是？ RNN存在梯度消失/爆炸问题的原因是什么？ 1. RNN的结构是什么？ 首先，我们看下基本RNN的结构： 模型的每个时间步通用公式为： a < t > = f ( W a a < t − 1 > + W x x t +

>>阅读原文<<