GoogleNet学习笔记

改善深度神经网络的方法:1.增加深度(增加层数)2.增加宽度(增加每层神经单元数) 带来问题: 1.网络庞大,数据集小时,易导致过拟合(解决过拟合办法:L1,L2正则化;Dropout;数据增强) 2.参数过多,训练时间长 3.网络深度过大,易导致梯度消失问题(解决梯度消失问题:运用残差连接) 解决办法:运用稀疏连接结构替代全连接结构(包括Conv层)。CPU及GPU适于计算密集矩阵,计算非一致稀
相关文章
相关标签/搜索