CNN笔记(CS231N)——循环神经网络(Recurrent Neural Networks)

递归神经网络 上一讲讲了CNN的架构,那么当我们把时间这个维度考虑进来了以后,我们就得到了递归神经网络(RNN)。RNN的输入输出可以是一对多、多对一、多对多,分别对应不同的应用场景 RNN的核心部分是如下公式,旧状态+当前输入,经过一个函数,得到了新状态,新状态会被送到下一个时候参与运算。我们的这个函数fw在不同时间是固定的。 普通RNN 一般来说这个fw函数是tanh函数,W是我们需要学习的权
相关文章
相关标签/搜索