L1,L2,smooth L1

三类都是回归常用的损失函数 MAE和L1 优点:无论对于什么样的输入值,都有着稳定的梯度,不会导致梯度爆炸问题,具有较为稳健性的解。 缺点:在中心点是折点,不能求导,不方便求解。 MAE叫做L1损失 L1()叫L1损失函数 MSE和L2 优点:各点都连续光滑,方便求导,具有较为稳定的解 缺点:不是特别的稳健,为什么?因为当函数的输入值距离中心值较远的时候,使用梯度下降法求解的时候梯度很大,可能导致
相关文章
相关标签/搜索