机器学习与深度学习系列连载： 第二部分 深度学习(二）梯度下降

梯度下降 Gradient Decent 我们回忆深度学习“三板斧”， 选择神经网络 定义神经网络的好坏 选择最好的参数集合 其中步骤三，如何选择神经网络的好坏呢？ 梯度下降是目前，最有效的方法之一。 方法：我们举两个参数的例子 θ 1 \theta1 θ1, θ 2 \theta2 θ2, 损失函数是L。那么它的梯度是： 那我为了求得最小值，我们有： 参数不断被梯度乘以学习率η 迭代 那么上述公

>>阅读原文<<