DeepLearing学习笔记-改善深层神经网络(第一周做业-3-梯度校验)

1-背景: 在神经网络计算过程当中,对后向传播的梯度进行校验,确保其计算无误。至于,前向传播,因为相对简单,因此,通常不会出错,在前向传播的基础上利用计算出来的代价 J 咱们能够进行后向梯度的校验。python 公式原理以下: web ∂J∂θ=limε→0J(θ+ε)−J(θ−ε)2ε(1) 在前向传播的基础上,咱们能够获取到 J ,也就能够上公式1的计算,将计算的结果值和反向传播的梯度值按照必
相关文章
相关标签/搜索