深度学习——正则化(二)

深度学习——正则化(二) 在之前的文章中深度学习——正则化(一)中,我们简单的介绍了几种常见的正则化的策略。下面我继续介绍正则化的相关策略。 1、 参数绑定与参数共享 在我们之前的叙述中,我们讨论了通过对损失函数添加惩罚项,从而对参数进行约束或者惩罚,但是我们可以发现这种方式是针对相对固定的区域或者点。比如L2正则化中是对参数偏离0的固定值进行了惩罚。然而,我们对于模型参数的值有的时候会基于一定的
相关文章
相关标签/搜索