有关循环神经网络——RNN、Seq2Seq、LSTM简单概括式的理解与总结

RNN:循环神经网络。RNN输入为两个向量xt与st-1,分别代表输入向量与之前输入序列所储存的knowlegde。简单而言,RNN适合处理序列问题(当前输入数据与之前输入数据有关),如上下文、文本处理、时序问题,具体如文本翻译、时序建模等等。RNN由于梯度乘性问题,对于过长的序列,前面的序列对后面的序列影响基本为0,由此引入了LSTM。 双向RNN:解决传统RNN的 信息只能由过去知识来获得。很
相关文章
相关标签/搜索