Lasso回归的坐标下降法推导

目标函数 Lasso相当于带有L1正则化项的线性回归。先看下目标函数: RSS(w)+λ∥w∥1=∑Ni=0(yi−∑Dj=0wjhj(xi))2+λ∑Dj=0|wj| 这个问题由于正则化项在零点处不可求导,所以使用非梯度下降法进行求解,如坐标下降法或最小角回归法。 坐标下降法 本文介绍坐标下降法。 坐标下降算法每次选择一个维度进行参数更新,维度的选择可以是随机的或者是按顺序。 当一轮更新结束后,
相关文章
相关标签/搜索