深度学习算法之CNN、RNN、LSTM公式推导

整个推导过程首先一定对网络的结构有清醒的认知，所有变量的下角标都能一一对应到网络结构上；然后就是链式求导了。 一、CNN公式推导 1、前向传播 假设CNN共三层，第一层为输入层，第二层为隐藏层，第三层为输出层。 定义：第一层与第二层之间的参数为 Wih ,第二层到第三层的参数为 Whk t时刻的某一个神经元的输入为 bi 那么隐藏层输入为： ∑mi=1Wihbi 则隐藏层的真实输入为： ah=∑m

>>阅读原文<<