李宏毅学习笔记3.1Gradient Decent

文章目录 复习 梯度下降法的一些小技巧Tips Tip 1: Tuning your learning rates 自适应调整LR的思想 Tip 2: Stochastic Gradient Descent Tip 3: Feature Scaling 梯度下降的推导 梯度下降其他缺陷 复习 先是复习之前课程中梯度下降的过程，回顾了大概的符号表示 黄色部分就是梯度。作图表示出来就变成下面这个图：

>>阅读原文<<