机器学习基础（三十） —— 线性回归、正则化（regularized）线性回归、局部加权线性回归（LWLR）

1. 线性回归 线性回归根据最小二乘法直接给出权值向量的解析解（closed-form solution）：python w=(XTX)−1XTy 线性回归的一个问题就是有可能出现欠拟合现象，由于它求的是具备最小均方偏差（LSE，Least Square Error）的无偏估计。显然，若是模型欠拟合将不能取得最好的预测结果，因此有些方法容许在估计中引入一些误差，从而下降预测的均方偏差。web 2.

>>阅读原文<<