深度学习模型容量选择与正则化的意义

在使用深度学习算法时，咱们采样获得训练集，而后挑选参数去下降训练集偏差。用训练好的模型对测试集进行验证，以获得泛化（测试）偏差。在这个过程当中，泛化偏差指望会大于或等于训练偏差指望。咱们应朝如下方面努力，以提升算法精度：算法 （1）下降训练偏差；网络 （2）缩小训练偏差和泛化偏差的差距。机器学习   这两个因素对应机器学习的两个主要挑战：欠拟合与过拟合。欠拟合是指模型不能在训练集上得到足够低的偏差

>>阅读原文<<