机器学习（五）--------正则化(Regularization)

过拟合(over-fitting)

欠拟合 正好 过拟合

怎么解决
1.丢弃一些不能帮助咱们正确预测的特征。能够是手工选择保留哪些特征，或者使用一
些模型选择的算法来帮忙（例如 PCA）
2.正则化。 保留全部的特征，可是减小参数的大小（magnitude）

回归问题的模型是

是高次项致使了这个问题

咱们决定要减小𝜃3和𝜃4的大小，咱们要作的即是修改代价函数，在其中𝜃3和𝜃4 设置一点惩罚。

𝜆又称为正则化参数（Regularization Parameter）。
取一个合理的 𝜆 的值，这样才能更好的应用正则化

正则化线性回归

正则化逻辑回归