李宏毅机器学习笔记(4): Gradient descent

Gradient descent 1 回顾 在实际模型中,我们需要对参数进行处理,使用梯度下降法。 梯度下降过程 实际要求: θ=argmaxL(θ) L为损失函数,θ为参数 选取相应参数:θ1,θ2 随机选取初始值:θ0=θ10θ20 梯度下降: 梯度: 算法过程: Gradient:loss的等高线的法线方向 2 调节你的学习率 学习率:梯度下降的步长,也是决定学习器的学习速度 如图,如果学习
相关文章
相关标签/搜索