神经网络训练时loss不降低的问题

        当咱们训练一个神经网络模型的时候，咱们常常会遇到这样的一个头疼的问题，那就是，神经网络模型的loss值不降低，以至咱们没法训练，或者没法获得一个效果较好的模型。致使训练时loss不降低的缘由有不少，并且，更广泛的来讲，loss不降低通常分为三种，即：训练集上loss不降低，验证集上loss不降低，和测试集上loss不降低。这里，首先默认各位都能理解过拟合和欠拟合的概念，若是有不清楚

>>阅读原文<<