《Machine Learning》第四讲 正则化（regularization）

1.过拟合问题（overfitting）        过拟合问题出现的原因是，我们在进行线性回归时，选取的特征值过多，而训练样本较少时，最终所得出的代价函数J(θ) 会越来越小，甚至出现近似于0的情况。代价为0不见得是一件好事，这样训练出来的模型只是能良好的拟合训练样本数据，而我们进行线性回归的目的是预测，我们需要得到的是一个泛化能力强的模型，图中从左至右依次是欠拟合、拟合、过拟合的情况。   

>>阅读原文<<