Bias/variance tradeoff 样本误差与泛化误差分析

欠拟合/过拟合在这里叫做偏差/方差权衡 一般的，欠拟合指假设函数不能较好的拟合样本数据，比如实际样本数据是二次函数，用一次函数无论如何都不能很好地拟合。或者可以理解为，无论样本多么充足，函数依然不能学习到真实问题的结构。 过拟合指假设函数过于复杂，挖掘出了有限个样本数据中的某些奇怪的，实际并不存在特征联系，导致在样本集上误差很低，但泛化误差（非样本数据上）却很高。 定义偏差bias为即使训练集很大

>>阅读原文<<