7. 深度学习实践:正则化(续)

接上篇:7. 深度学习实践:正则化 7. 参数绑定和参数共享 表达对模型参数的先验知识:经常想要表达的一种常见依赖是某些参数应当彼此接近。例如,两个模型执行相同的分类任务,但输入分布稍有不同,因此我们认为模型参数应彼此靠近。可通过正则化利用这个信息,具体的例如,参数范围惩罚为 Ω(w(A)−w(B))=||w(A)−w(B)||22 。 上述2006年提出,正则化一个模型(监督模式下的分类器)的参
相关文章
相关标签/搜索