神经网络的参数初始化

注: 本文是学习吴恩达老师机器学习公开课的学习笔记。 1. 对于神经网络fminunc函数,我们需要初始化神经网络的initialTheta的参数。对于逻辑回归来说,我们可以全部初始化为0,但是对于神经网络来说将initialTheta全部初始化为0是不可以的。 2.为什么全部初始化成0是不可以的呢? 如果所有参数初始化成0,那么隐藏层的每个节点的输出都是相同的,而且每个参数对成本函数的偏导数也是
相关文章
相关标签/搜索