【台大李宏毅ML课程】Lecture 3 Gradient Descent笔记

（感谢李宏毅老师，所有图片来自于老师的课件） Lecture 3 Gradient Descent 本讲主要讲了解决最优化问题用到的梯度下降的方法，以及对梯度下降法的一个改进，最后从泰勒级数的角度解释了梯度下降的数学原理。本讲从比较深的角度介绍梯度下降，讲的十分的好。 1.Review：Gradient Descent 梯度下降法主要是为了求解凸优化问题（具体步骤可见Lecture 1）： 2.学

>>阅读原文<<