双向长短时记忆循环神经网络

LSTM 传统的循环神经网络(RNN)可以获得的上下文信息范围颇有限。这个问题就使得隐含层的输入对于网络输出的影响随着网络环路的不断递归而衰退。web 为了解决这个问题,长短时记忆(LSTM)结构诞生了。与其说长短时记忆是一种循环神经网络,倒不如说是一个增强版的组件被放在了循环神经网络中。算法 LSTM单元可以很好的解决跨时间记忆以及梯度消失的问题。LSTM结构的形式化定义以下: LSTM时刻j的
相关文章
相关标签/搜索