递归神经网络_RNN、LSTM、Word2Vec

一、RNN原理 RNN的目的使用来处理序列数据。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的。 序列数据往往前后时刻是相关的，因此用RNN。 RNN特点 1、权值共享，图中的W全是相同的，U和V也一样。 2、每一个输入值都只与它本身的那条路线建立权连接，不会和别的神经元连接。 前向传播 s t = t a n h ( W s t − 1 + U x t ) s_t=t

>>阅读原文<<