最优化

我们上一篇文章中得到了损失函数值，我们要根据这个损失值来调参数，那么怎么将参数调成一个最优的？，这就是最优化问题。 我们知道损失函数值越大表明分类效果越差，损失函数值越小表明分类效果越好，所以这里我们就需要将损失函数值减小到一个最小的范围。 首先介绍一下梯度的概率： 梯度（一阶导数） 考虑一座在 (x1, x2) 点高度是 f(x1, x2) 的山。那么，某一点的梯度方向是在该点坡度最陡的方向，而

>>阅读原文<<