过拟合与欠拟合

Goodfellow的解释感受很精辟： 咱们在训练网络的时候每每有两大目标：web 下降训练偏差 缩小训练偏差与测试偏差的差距 这两点其实分别对应着： 欠拟合与过拟合。网络 对于欠拟合，若是模型的容量（拟合各类函数的能力）太低则会致使网络难以拟合训练集-> 训练偏差难如下降。svg 对于过拟合，就是模型的学习能力过强，很好的fit了训练数据，可是却没有对测试集的泛化能力。（train loss低，

>>阅读原文<<