RNN、LSTM、多层LSTM、Bi-LSTM

有些时候,主要考虑的是哪些输入,有时候,考虑的是(输入,输出)之间的模型; 一、RNN f,g 就是普通的激活函数,可能是tanh; 二、LSTM   此时,Ht~f(Xt, Ct-1, ht-1) 在这里引入了一个新的变量Ct-1,它是什么意思呢? 这里的f如何确定呢 三、多层RNN/LSTM 多层RNN中,第一层的输入是Ht1 ~ (Xt, Ht-1),后面层的输入不再是Xt,而是下一层的隐藏
相关文章
相关标签/搜索