最简单的梯度降低法

梯度降低法,主要经过梯度方向与学习率两个值,一步一步迭代求出最优值的过程。python 1. 随机产生开始迭代的初始值,包括x值,学习率;dom 2. 计算函数的导数,经过学习率与导数的乘积更新x,即函数 其中是学习率,是函数的导数。学习 3. 用更新的x,更新y,重复2与3,直到相邻两个y值相同,或者相邻两个y的差值小于某个值终止。优化 假设以为例,则相关python代码实现以下:code #
相关文章
相关标签/搜索