近端梯度算法(Proximal Gradient Descent)

L1正则化是一种常用的获取稀疏解的手段,同时L1范数也是L0范数的松弛范数。求解L1正则化问题最常用的手段就是通过加速近端梯度算法来实现的。 考虑一个这样的问题:   minx  f(x)+λg(x) x∈Rn,f(x)∈R,这里f(x)是一个二阶可微的凸函数,g(x)是一个凸函数(或许不可导),如上面L1的正则化||x||。 此时,只需要f(x)满足利普希茨(Lipschitz)连续条件,即对于
相关文章
相关标签/搜索