关于Hoeffding不等式及泛化误差上界

       在监督学习中，我们通常会定义一个目标函数来衡量模型的好坏，定义一个风险函数从而计算模型预测结果与真实值之间的误差是一种惯用手段。一般而言，我们将考虑训练集上的训练误差和测试集上的泛化误差，事实上，训练误差的持续降低并不是那么令人愉快，因为这可能是“过拟合”在背后操纵着一切。总的来说，只有泛化误差的降低才能真的让人感觉美滋滋。        如果给我们一个模型，我们该从什么方面去降低泛

>>阅读原文<<