线性回归与非线性回归:1.8岭回归 及实战

岭回归  如果数据的特征比样本点还多,数据特征 ,样本个数 ,即 ,则计算  时会出错。因为  不是满秩矩阵,行列式为0,所以不可逆。 为了解决这个问题,统计学家引入了岭回归的概念。   岭回归最早是用来处理多于样本的情况,现在也用于在估计中加入偏差,从而得到最好的估计。同样也可以解决多重共线性问题。岭回归是一种有偏估计。 岭回归的代价函数: 线性回归标准方程法: 岭回归的求解:  为岭系数, 为
相关文章
相关标签/搜索