【深度学习】鞍点

背景 长期以来，人们广泛认为，神经网络优化问题困难是由于较大的神经网络中包含不少局部极小值（local minima），使得算法容易陷入到其中某些点。到2014年，一篇论文《Identifying and attacking the saddle point problem in high-dimensional non-convex optimization》，提出高维非凸优化问题之因此困难，是

>>阅读原文<<