4-2 过拟合

对于回归来说： 对于分类来说： 当新数据（未参与训练）要求回归或分类时，过拟合的网络得到拟合的效果比较差，泛化能力不足。 1数据挖掘中说拥有足够多的数据往往胜过一个好的模型 2正则化中，优化损失函数C时，也会优化后面的正则项，即w（网络中的权值）会减小，使得原本比较小的权值越来越接近于几乎等于0，相当于该权值的某个神经元不存在，减小了网络的复杂程度，类似dropout的效果 3dropout使得每

>>阅读原文<<