《数学基础》-4.凸优化-4.1.无约束优化

4.1.无约束优化 4.1.1.无约束优化问题 无约束优化问题是机器学习中最普遍、最简单的优化问题。 求最大值也可以 在前面加上负号，变成上面求最小的形式。 求一个函数f(x)的最小值可以对函数f(x)求导并使其等于0(或者说使得梯度▽f(x)等于0)，但是很多复杂的函数求导后没法求出解，所以这种方法实际上很少用。 常用梯度下降法、牛顿法或者拟牛顿法求解。 4.1.2.梯度下降法 基于迭代的方法，

>>阅读原文<<