rnn和lstm

RNN区别于普通神经网络的地方在于,前一时刻的状态会影响到后一时刻的状态,在网络结构上呈现隐藏层的自循环结构,不同时刻的参数共享,下图为从时间上把RNN展开的的网络层图,每一列三个黑圈代表一个普通神经网络结构,列之间有参数W2关联,因为RNN加入了序列上下文的考虑,比如一句话里词与词的联系,一部电影里帧与帧的联系,RNN可以用于语句序列的处理,比如一句话,I am a girl,每一时刻输入一个单
相关文章
相关标签/搜索