改进神经网络的方法（学习缓慢，过拟合，梯度消失）

本文内容来自：Michael Nielsen的《Neural Networks and Deep Learning》中文翻译 学习缓慢问题 产生原因 我们之前用的代价函数都是二次代价函数： a是神经元的输出，假设训练输入x=1，输出y=0，求权重和偏置的偏导数有： 偏导数受激活函数的变化率的影响，假设我们激活函数为sigmoid函数，我们看一下函数图像： 当神经元的输出接近1的时候，曲线非常平缓，

>>阅读原文<<