神经网络权重的初始化

当你训练神经网络时，权重随机初始化是很重要的。对于逻辑回归，把权重初始化为 0，当然也是可以的。 但是对于一个神经网络，如果你把权重或者参数都初始化为 0，那么梯度下降将不会起作用。 1.权重初始化的重要性 神经网络的训练过程中的参数学习时基于梯度下降算法进行优化的。梯度下降法需要在开始训练时给每个参数赋予一个初始值。这个初始值的选取十分重要。在神经网络的训练中如果将权重全部初始化为0，则第一遍前

>>阅读原文<<