深度学习:Sigmoid函数与损失函数求导

转载自: 在神经网络里经常使用sigmoid做激活函数,它的导数是怎么样求解呢?因为要使用它的导数来计算梯度下降。 这个过程如下: 1. sigmoid 函数:f(z) = 1 / (1 + exp( − z)) 导数:f(z)' = f(z)(1 − f(z)) 求导过程如下: 关于sigmoid函数在神经网络中的应用: http://blog.csdn.net/zhishengqianjun/
相关文章
相关标签/搜索