循环神经网络学习笔记

RNN是为了处理序列数据而生,能够顺序获取序列之间的关系,但是也存在处理过长序列会引起梯度消失、梯度爆炸,信息丢失问题。 为了解决RNN的问题,LSTM就诞生了,LSTM主要是通过遗忘门,输入门,输出门来解决这些问题。 遗忘门主要是来控制记住什么信息,忘记什么信息。比如我今天下午去游泳,对于泳字来说只有游字是重要的,前面的几个字不重要,这时遗忘门就要告知泳字前面几个字是不重要的。 输入门主要是用来
相关文章
相关标签/搜索