深度学习-初始化权值

深度学习–初始化权值 多层网络初始化w的时候,通常不初始化为0,会初始化为一个非0的很小的参数。 w初始值不宜太大,若w初始过大,z值过大,dz值太小,学习会很慢(对于激活函数为sigmoid或tanh函数而言)web
相关文章
相关标签/搜索