机器人写诗项目——递归神经网络(RNN)

传统神经网络与递归神经网络对比 传统神经网络 递归神经网络 等价于 RNN网络细节 xt表示第t=1,2,3…step的input st为隐藏层的第t step的state,它是网络的记忆单元 st=f(Uxt+Wst-1),其中f通常是非线性的激活函数 ot是第t step的output,以下个单词的向量表示softmax(Vst)web RNN的反向传播 RNN升级LSTM C:控制参数 决定
相关文章
相关标签/搜索