矩阵求导与BP的证实的建议

前言 在有些博客推导神经网络的BP时，涉及到屡次矩阵求导运算，尤为是反向传播时候，求的梯度结果被转置了，好比假设最后一层的输出为 html y=σ(w⋅x+b) 那么 ∂y∂w∂y∂x=σ′(w⋅x+b)⋅xT=σ′(w⋅x+b)⋅wT 这两个式子到底正确不正确，这个就涉及到矩阵求导了，转没转置这个对推导细节也是蛮重要的，接下来就看看我我的认为比较重要的矩阵求导式子，不按期更新。最后再证实这两个式

>>阅读原文<<