15.循环神经网络与LSTM

循环神经网络,一般运用于词条翻译,语调模仿,等等 相对于人工神经网络和卷积神经网络,循环神经网络具有'记忆功能' 对于人工神经网络,卷积网络来说,不管怎么梯度下降,输出层和输入层根据权重和池化层等的缩减,至少部分相关的 循环神经网络则不止是输入层经过权重处理的结果,还有'记忆'的权重 循环神经网络的结构 x是输入,o是输出,中间展开则是右边的模型 U是权重矩阵,所谓的记忆就是S(t-1)到St经过
相关文章
相关标签/搜索