多重共线性的产生及其解决方法(岭回归和Lasso回归)

1.最小二乘法求解多元线性回归 多元线性回归表达式: 可以写成: 我们的目标就是求解w,如何求解w,就要用到损失函数,线性回归的损失函数为: 即预测值和真实值之间的差异,我们希望越小越好。 我们往往称上述式子为RSS(Residual Sum of Squares 残差平方和)或者SSE(Sum of Sqaured Error,误差平方和),如何求解w就用到最小二乘法: 这个时候我们要求w,就要
相关文章
相关标签/搜索