脉络梳理,正则化和L范数直观理解

1.正则化背景 虽然我们不断追求更好的模型泛化力,但是因为未知数据无法预测,所以又期望模型可以充分利用训练数据,避免欠拟合。 这就要求在增加模型复杂度、提高在可观测数据上的性能表现得同时,又需要兼顾模型的泛化力,防止过拟合。 为了平衡这两难的选择,提出了正则化。 2.正则化定义 由此可以总结出,正则化的概念: 在模型中改善过拟合,降低结构风险,提高模型的泛化能力的添加项。 直译应该是:规则化 3.
相关文章
相关标签/搜索