学习笔记-利用Gradient Checking检查神经网络模型

利用Gradient Checking检查神经网络模型 在搭建完神经网络模型后怎样判断中间有没有bug呢？这就要用到Gradient Checking了。 一般前向传播网络的计算不容易出错，而在计算反向传播网络的过程中很容易出错。 学过微积分的都知道，某一点的导数可以用以下公式近似表示： ∂J∂θ=limε→0J(θ+ε)−J(θ−ε)2ε 因此我们只要比较近似值（gradapprox）与实际值（

>>阅读原文<<