长短时记忆网络LSTM(基本理论)

整个LSTM网络,x号表示门 web pointwise Operation:点对点的操做,好比点对点的相乘,点对点的相加。 concatenate:若第一条线为10x1,第二条线为20x1,则输出为30x1。 将LSTM分为一小部分一小部分 sigmoid输出范围为(0,1),为0的时候遗忘,1保留 tanh函数输出范围为(-1,1),正的加强,负的减弱 附Sigmoid,tanh函数 网络
相关文章
相关标签/搜索