Machine Learning - Coursera week5 Backpropagation in Practice

1. Gradient Checking 我们讨论了如何进行前向传播以及后向传播，从而计算导数。但有一个不幸的消息是，它们有很多细节会导致一些BUG。 如果你用梯度下降来计算，你会发现表面上它可以工作，实际上， J虽然每次迭代都在下降，但是可能表面上关于theta的函数J在减小而你最后得到的结果实际上有很大的误差。有一个想法叫梯度检验Gradient Checking。 假设我们有一个关于thet

>>阅读原文<<