机器学习-参数的初始化

参数的初始化 在神经网络的一些问题中,我们会把参数都初始化为0 但这样其实会有一些问题 在训练过程中,无论我们怎么训练,下图同一颜色的参数始终相同,这样则a1,a2也始终相同,我们称之为对称权重问题 为了避免这种现象的发生,我们要随机初始化,常用的办法就是用正态分布的函数初始化
相关文章
相关标签/搜索