(Review cs231n) Gradient Vectorized

注意： 　　1.每次更新，都要进行一次完整的forward和backward，想要进行更新，需要梯度，所以你需要前馈样本，马上反向求导，得到梯度，然后根据求得的梯度进行权值微调，完成权值更新。 　　2.前馈得到损失，反馈得到梯度，对梯度的使用来完成权值更新。 　　3. 训练的过程，前馈，反馈，更新；......   我们需要进行向量处理，网络中流动的数据并不是标量，全是向量，局部梯度原本是标量，现

>>阅读原文<<