转自AndyJee

转自AndyJee: （数学）最小二乘的几何意义及投影矩阵 主要内容： 什么是最小二乘 最小二乘的几何意义 正交投影矩阵   什么是最小二乘？ 假设我们手上有n组成对的数据，{(xi,yi):i=1…n}，为了探究y变量与x变量的关系，我们希望用一个多项式来匹配它，可是多项式中的系数怎么确定呢？拿来拼凑肯定是不行的，最小二乘法告诉我们，这个多项式的系数应该让每个点的误差的平方之和最小。 （百度百科

>>阅读原文<<