深度学习与神经网络学习笔记（三）

四、logistic 回归中的梯度下降   我们一般可以通过图中的方式来进行损失函数的求解，而损失函数是怎么反向影响 (ω,b) 的值的变化的呢？这就要用到导数的知识了，首先我们把损失函数对a求导： d(a)=dL(a,y)d(a)=−ya+1−y1−a   然后再对 z 求导： d(z)=dL(a,y)d(z)=dL(a,y)d(a)d(a)d(z)=a−y   最后我们分别对各个参数求导就可以

>>阅读原文<<