深度学习——模型优化

深度学习——模型优化 1、优化过程引入 1.1 学习过程和优化过程的区别 实际目标不同，学习算法的目标是通过降低损失函数L，从而提高模型在真实情况下的性能P。而优化算法的目标是如何更好的降低损失函数的值。 计算目标不同，一般情况下，通过学习算法，我们的计算的是整个模型函数的最小值点。也就是说学习算法通常不会停止在局部值点，而是直接寻找最值点。但是这样容易引起过拟合。但是通过优化算法，其寻找的不一定

>>阅读原文<<