机器学习笔记之正则化

在训练数据不够多，或者是过度训练的情况下，经常会导致过拟合。正则化就是向原始模型引入额外信息，通过向目标函数添加一个参数范数惩罚项来降低模型容量的方法，以便于更好地拟合训练集。 过拟合问题 线性回归中 下图中是三种拟合情况： 图一的训练情况比较差，称为欠拟合、高偏差。 图二的训练情况和拟合都比较好。 图三训练出的方程对数据的拟合过于完美，虽然匹配了每个训练集，但是不能很好地匹配测试集，无法比较准确

>>阅读原文<<