LSTM网络结构

1.介绍 假设词向量长度为128，隐含层神经元个数为256。LSTM中引入3个门，即输入门、遗忘门、输出门；及其他组件：候选记忆细胞、记忆细胞。 2.时间t时候：各个组件（3个门+候选记忆细胞、记忆细胞） 如上图所示，对于每个组件有： (1) 输入门： I t I_t It​ I t = σ ( X t W i h I + H t − 1 W h h I + b i h I ) I_t = \si

>>阅读原文<<