梯度消失（vanishing gradient）和梯度爆炸（exploding gradient)

原文链接:https://blog.csdn.net/guoyunfei20/article/details/78283043 参考链接:https://www.cnblogs.com/DLlearning/p/8177273.html 神经网络中梯度不稳定的根本原因：在于前层上的梯度的计算来自于后层上梯度的乘积（链式法则）。当层数很多时，就容易出现不稳定。下边3个隐含层为例： 其b1的梯度为：

>>阅读原文<<