代价函数和激活函数组合效果

均方差代价函数 + sigmoid C=(y−a)22 C = ( y − a ) 2 2 其中，z=wx+b, 而a是经历了激活函数的z，a=σ(z)。 那么这个的梯度，对w和b分别求导，得到： ∂C∂w=(a−y)σ'(z)x=aσ'(z) ∂ C ∂ w = ( a − y ) σ ′ ( z ) x = a σ ′ ( z ) ∂C∂b=(a−y)σ'(z)=aσ'(z) ∂ C ∂ b

>>阅读原文<<