[026] 深度学习--学习笔记(4)Back-propagation反向传播链式法则理论推导

1、梯度下降(Gradients Descent) 概念:构建Loss(预测值与实际值之间的偏差)与相关权值变量θ(0)和θ(1)的函数关系J(θ(0), θ(1)),在函数图像上随机取初值点,然后求初值点的导数(也就是梯度),并沿着导数最倾斜的方向按照一定的步长更新J点,以及类推总能找到J(min)的局部最优解,也就是预测值与实际值偏差最小的状态。 2、常用函数的求导公式 3、单层感知机(Per
相关文章
相关标签/搜索