循环神经网络与LSTM

循环神经网络与LSTM 是一个序列到序列的学习,他会生成一个序列squence 一.循环神经网络的结构 1.结构 ❤unfold:展开 ❤Xt是时间t处的输入 ❤St是时间t处的“记忆”,St=f(UXt+WSt−1),f可以是tanh等 ❤ Ot是时间t处的输出,比如是预测下个词的话,可能是 softmax输出的属于每个候选词的概率 ❤拿我是中国人为例,假如Xt输入的是“中国”,那么Ot输出的就
相关文章
相关标签/搜索