3.5 梯度校验-机器学习笔记-斯坦福吴恩达教授

梯度校验（Gradient Descent） 通常，直接使用BP算法可能会出现许多 bug，因此，需要使用称为**梯度校验（Gradient Checking）**的手段。我们知道， J ( Θ ) J(Θ) J(Θ) 在 Θ Θ Θ 处的倒数 d d Θ J ( Θ ) \frac d{dΘ}J(Θ) dΘd​J(Θ) 为该点的斜率，如下图蓝色线段所示： 我们可以在点 Θ Θ Θ 附近的小区间

>>阅读原文<<