2.2 梯度下降和反向传播

梯度下降和反向传播 目标 知道什么是梯度下降 知道什么是反向传播 1. 梯度是什么? 梯度:是一个向量,导数+变化最快的方向(学习的前进方向) 回顾机器学习 收集数据 ,构建机器学习模型,得到 判断模型好坏的方法: 目标:通过调整(学习)参数,尽可能的降低,那么我们该如何调整呢? 随机选择一个起始点,通过调整,让loss函数取到最小值 的更新方法: 计算的梯度(导数) 更新 其中:  <0 ,意味
相关文章
相关标签/搜索