正则化方法 L1和L2

模型训练是围绕解决模型的欠拟合问题展开的,通过最小化损失函数来减小模型预测值与真实值之间的误差。因为数据集中总会有一些噪声,模型在拟合数据时可能会把噪声也拟合进来,导致模型过拟合。 正则化是对损失函数的一种惩罚,即对损失函数中的某些参数进行限制。一般认为,参数值较小的模型比较简单,能更好地适应不同的数据集,泛化能力更强。正则化中最常用的正则项是L1范数和L2范数。 L1范数是权重向量中各元素的绝对
相关文章
相关标签/搜索