如何理解梯度下降

    一般情况下，我们把要最小化或最大化的函数称为目标函数。当我们队其进行最小化时，我们也把他称为代价函数，损失函数或误差函数。     我们说导数对于最小化一个函数很有用，因为它告诉我们如何更改x来略微地改善y。加入，我们知道对于足够小的来说， f(x-sign(f'(x)))<f(x)。因为我们可以将x往导数的反方向移动一小步来减少f(x)。这种技术被称为梯度下降。            

>>阅读原文<<