【吴恩达深度学习专栏】浅层神经网络(Shallow neural networks)——随机初始化(Random+Initialization)

文章目录 3.11 随机初始化(Random+Initialization) 3.11 随机初始化(Random+Initialization) 当你训练神经网络时,权重随机初始化是很重要的。对于逻辑回归,把权重初始化为0当然也是可以的。但是对于一个神经网络,如果你把权重或者参数都初始化为0,那么梯度下降将不会起作用。 由此可以推导,如果你把权重都初始化为0,那么由于隐含单元开始计算同一个函数,所
相关文章
相关标签/搜索