循环神经网络中的LSTM和GRU

循环神经网络:就是借助循环核实现的时间特征提取,再把提取到的信息送入全连接网络,实现连续数据的预测。 循环核:循环核具有记忆力,通过不同时刻的参数共享,实现了对时间序列的信息提取。 ht:每个时刻的状态信息 参数矩阵:wxh,whh,why xt:输入特征 yt:输出特征 bh:偏置项 by:偏置项 yt=softmax(htwhy+by) ht=tanh(xtwxh+ht-1whh+bh) 前向
相关文章
相关标签/搜索