双向循环神经网络、深度循环神经网络、BPTT

循环神经网络 一个简单的循环神经网络,它由输入层、一个隐藏层和一个输出层组成:   如果把上面有W的那个带箭头的圈去掉,它就变成了最普通的全连接神经网络。 x是一个向量,它表示输入层的值(这里面没有画出来表示神经元节点的圆圈); s是一个向量,它表示隐藏层的值(这里隐藏层面画了一个节点,你也可以想象这一层其实是多个节点,节点数与向量s的维度相同); U是输入层到隐藏层的权重矩阵; o也是一个向量,
相关文章
相关标签/搜索