机器学习_L1为什么比L2更容易产生稀疏解

我们首先可以设目标函数为 L L L,目标函数中的权值参数为 w w w,那么目标函数和权值参数的关系如下所示: 如上图所示,最优的 w w w在绿色的点处,而且 w w w非零。 我们首先可以使用L2正则进行优化,新的目标函数: L + C W 2 L + CW^{2} L+CW2,示意图如下蓝线所示: 我们可以看到,最优的 w w w出现在黄点处, w w w的绝对值减小了,更靠近横坐标轴,但
相关文章
相关标签/搜索