【深度之眼】Pytorch框架班第五期-Week6【任务1】第一节：weight_decay

正则化与偏差-方差分解 Regularization Regularization: 减小方差的策略 误差可分解为：偏差，方差与噪声之和。即误差=偏差+方差+噪声之和 偏差度量了学习算法的期望预测与真实结果的偏离程度，即刻画了学习算法本身的拟合能力 方差度量了同样大小的训练集的变动所导致的学习性能的变化，及刻画了数据扰动所造成的影响 噪声则表达了在当前任务上任何学习算法所能达到的期望泛化误差的下界

>>阅读原文<<