机器学习笔记3-1

3-1 Gradient Descent Gradient Descent(《机器学习笔记1前半段》已学习了大概) 其中ⴄ:learning rate 学习速度 是一个常数(g^t微分以后的常数项放在了ⴄ下面) 将其可视画(gradient就是等高线的法向方向) (gradient一直在变方向,因为每次乘learning rate的时候都要取相反数) Tip 1 小心设置learning rate
相关文章
相关标签/搜索