深度学习：鞍点以及如何跳出鞍点

最近阅读了有关鞍点得到文章，做了一下总结： 鞍点的定义： 鞍点 （saddle point）的数学含义是： 目标函数在此点上的梯度（一阶导数）值为 0， 但从该点出发的一个方向是函数的极大值点，而在另一个方向是函数的极小值点。 而当在某点的一阶导为0时，该点称为驻点。 判断鞍点的一个充分条件是：函数在一阶导数为零处（驻点）的Hessian矩阵为不定矩阵。 半正定矩阵： 所有特征值为非负，或主子式全

>>阅读原文<<