如何优化深度神经网络

如何优化深度神经网络     网络越深越容易过拟合？ 假设训练两个层数不一样的神经网络，一个层数较少（例如20层），一个层数较多（50层），在测试集中我们发现： 测试集上的效果显示20层要56层的错误率要更低，但是我们不能就先入为主的断定56层是由于参数太多导致过拟合，所以在测试集上表现要比20层神经网络要差。 其实我们应该首先看看它们在训练集上的表现： 上图我们看到在训练集上的错误率其实已经是5

>>阅读原文<<