RNN&LSTM&GRU

RNN 相对于CNN，RNN可以记录历史信息，使其在解决序列问题方面很有用处，其被广泛应用于语音识别，语言模型，翻译和图像标注等。 RNN网络具有记忆前序状态的功能。 展开后的模型如下： 长期依赖问题 加入说“云在天空”，根据“云在”推出“天上”比较容易。 即根据 x0,x1,..., 可以预测 h3 然而，如果说“小强出生在中国，…,他的母语是中文”，如果要推到“中文”，则要向前看很远，要能到出

>>阅读原文<<