深度学习之权重初始化

四种权重初始化方法： 把w初始化为0 对w随机初始化 Xavier initialization He initialization 把w初始化为0: 缺点： 因为如果把w初始化为0，那么每一层的神经元学到的东西都是一样的（输出是一样的）。 在梯度回传阶段，同一层内的所有神经元都是相同的，这样的话神经网络就没有意义了，相当于每一层只有一个神经元。因为在前项传播时，同层的所有神经元都相同，w也相同，

>>阅读原文<<