【机器学习】【高等数学】梯度与梯度下降法

目录 1.导数 2.梯度 3.梯度下降法 4.梯度下降存在的问题 机器学习中,在求解损失函数的最小值时,需要用到求导数的各种技巧。   1.导数 导数的几何意义:导数又叫微分,是图像的斜率。 多元函数的偏导数 偏导数的几何意义   2.梯度 梯度的定义 来自百度:(梯度的本意是一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变
相关文章
相关标签/搜索