简述梯度下降法

简述梯度下降法   在机器学习中，梯度下降法是一种常用的优化方法，是解决无约束优化问题最简单、最经典的方法之一。要了解梯度下降法是什么，首先就要了解什么是梯度。 1、梯度   在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。设有多元函数： ​​​​   按照上述定义，则该多元函数的梯度表示为： 该梯度表示的几何意义为： 在该点（x,y,z）处函数变化

>>阅读原文<<