正则化

正则化（解决过拟合） 1. 过拟合问题 eg1：线性回归 很明显的图一为欠拟合，高偏差。 图三为过拟合，高方差，低偏差。一般过拟合对训练数据有很好的拟和能力，但对与新样本的泛化能力却很差。 eg2：逻辑回归 图一为欠拟合，高偏差。 图三为过拟合，高方差，低偏差。 如果们的模型复杂度较高，而训练样本过少，通常会出现过拟合问题。 解决方法 1. 减少变量的数量，降低模型的复杂度 2. 正则化：保留所有

>>阅读原文<<