深度学习笔记(31):LSTM一点简要理解

前言 RNN提供了捕捉序列特性的一种方案,然而由于梯度爆炸或者梯度消失问题,对于句子中距离较长的词汇,RNN由于训练时反向传播的修改从句子末尾到句子开始时已经变得很微弱,以至于难以建立较大的联系,因而RNN在捕捉中长距离句型关系时效果较差。很多研究者就提出了很多种方案在一定程度上良好的解决了这种问题,其中最知名的就是LSTM(1997)和GRM(2014). LSTM 个人认为,要想理解LSTM,
相关文章
相关标签/搜索