TextRNN

这篇是RNN类结构和其用于文本分类的学习总结； 一、单向RNN结构：，权重矩阵U、V、W共享。 二、双向RNN结构：，，仿照单向的写法也就是。从公式里也可以看出来，正向计算和反向计算不共享权值。 三、长短时记忆网络LSTM结构：RNN神经元中只有这一计算，隐藏层的状态对短期的输入非常敏感，存在梯度消失和梯度爆炸的问题。有科学家提出LSTM解决了这个问题，原始的RNN神经元中只有一个隐藏状态，这个状

>>阅读原文<<