神经网络的参数为什么不能初始化为全零

训练神经网络时，随机初始化权重非常重要。对于Logistic回归，可以将权重初始化为零，但如果将神经网络的各参数全部初始化为0，再使用梯度下降法，这样将会完全无效。 如图所示，这是一个简单的两层神经网络(输入层是第0层)，如果将所有的w矩阵和b向量都初始为全0 则矩阵  是 是     是 将偏置项b初始化为0实际上是可行的，但把W初始化成全零就成问题了，它的问题在于给神经网络输入任何的样本，隐藏

>>阅读原文<<