改善深层神经网络week1学习笔记

1.Initialization Zero initialization 即初始化为0。如果将w权重矩阵和b偏置矩阵都使用Zero initialization则会产生以下的结果: 算法对每个测试样里都会输出0,因此准确率在0.5左右,与随机猜测无异。总体来说,因为没有“打破对称性”,每个神经元都做着一样的事情,所以说会产生如上结果。一般地,将b零初始化,w随机初始化。 Random initia
相关文章
相关标签/搜索