期望风险、经验风险、结构风险的关系

要区分这三个概念，需要先讲一下损失函数L(Y,f(x))的概念。 损失函数：针对单个具体样本，表示模型预测值与真实样本值之间的差距。损失函数越小，说明模型对于该样本预测越准确。常见损失函数有0-1损失函数、平方损失函数、绝对损失函数、对数损失函数（对数似然损失函数）。 经验风险：对所有训练样本都求一次损失函数，再累加求平均。即，模型f(x)对训练样本中所有样本的预测能力。 所谓经验风险最小化即对训

>>阅读原文<<