lstm和GRU结构图

1.lstm的结构图 LSTM主要由记忆单元C,遗忘门,输入门和输出门组成,门的取值范围都是(0,1),由sigmoid函数控制 遗忘门f 遗忘门以前一个时刻的隐层状态ht−1和该时刻输入xt的线性组合作为sigmoid函数的输入,用来控制遗忘多少*前一时刻记忆单元Ct-1的内容。 那么经过遗忘门之后:Ct-1中的内容还剩多少呢:• 表示元素级的乘法 输入门 i 输入们也是以前一个时刻的隐层状态h
相关文章
相关标签/搜索