期望风险、经验风险、结构风险的关系

首先引入损失函数的概念：损失函数就一个具体的样本而言，模型预测的值与真实值之间的差距。对于一个样本（xi,yi）其中yi为真实值，而f（xi）为我们的预测值。使用损失函数L（f(xi),yi）来表示真实值和预测值之间的差距。两者差距越小越好，最理想的情况是预测值刚好等于真实值。 常见的损失函数如下： 通过损失函数我们可以得知对于单个样本点的预测能力，对于训练样本集中所有数据的预测可以通过累加得到，

>>阅读原文<<