神经网络权重初始化

在我们真正开始训练网络之前,我们必须要知道如何去初始化神经网络的参数。 陷阱: 都初始化为0。         首先介绍一下我们不应该做的事情(即初始化为0)。需要注意的是我们并不知道在训练神经网络中每一个权重最后的值,但是如果进行了恰当的数据归一化后,我们可以有理由认为有一半的权重是正的,另一半是负的。令所有权重都初始化为0这个一个听起来还蛮合理的想法也许是一个我们假设中最好的一个假设了。但结果
相关文章
相关标签/搜索