神经网络梯度消失原因

(PS:因时间关系,本文是口水话,很少公式。需要一定神经网络知识的小伙伴才看的懂哦。如有不对,请批评指正) 好啦,戏太多,下面进入正题------------------------------> 1. 众所周知,神经网络中的激活函数,很多都是用的S型函数。(sigmiod函数) 2. 当神经网络层次够深的时候,更新权重,也许会出现梯度消失!!! 原因如下: 1 神经网络用的是梯度下降法,来进行每
相关文章
相关标签/搜索