【最优化理论】4.1无约束最优化

无约束最优化 1.梯度下降法 2.随机梯度下降法 2.1批量梯度下降法（Batch Gradient Descent） 2.2 随机梯度下降法（Stochastic Gradient Descent） 2.3小批量梯度下降法（Mini-batch Gradient Descent） 3.牛顿法 4.牛顿法的收敛速度 参考   无约束最优化问题是机器学习中最普遍、最简单的优化问题。 x ∗ = mi

>>阅读原文<<