长短期记忆网络LSTM

上两小节我们主要讲述了循环神经网络RNN,但是尽管 RNN 被设计成可以利用历史的信息来预测当前的决策,例如使用之前出现的单词来加强对当前单词的理解,但是预测RNN决策的主要还是最后输入的一些信号,更早之前的信号会随着时间的推迟而变得强度越来越低,它对后续的影响越来越弱。这样就会给RNN带来了新的技术挑战一一长期依赖(Long-Term Dependencies) 问题。 当遇到一些上下文信息场景
相关文章
相关标签/搜索