9 神经网络算法之梯度下降

优化（optimization）是人类历史上的重大突破, 他解决了很多实际生活中的问题.  比如说牛顿法 (Newton’s method), 最小二乘法(Least Squares method), 梯度下降法 (Gradient Descent) 等等. 而我们的神经网络就是属于梯度下降法这个分支中的一个. 初学神经网络的时候, 我们通常会遇到这样一个方程, 叫做误差方程 (Cost Func

>>阅读原文<<