深度学习(DL)--DNN的正则化详解

DNN的正则化     和普通的机器学习算法一样,DNN也会遇到过拟合的问题,需要考虑泛化,这里我们就对DNN的正则化方法做一个总结。 (1)DNN的L1&L2正则化     L1正则化和L2正则化原理类似,这里重点讲述DNN的L2正则化。而DNN的L2正则化通常的做法是只针对与线性系数矩阵W,而不针对偏倚系数b。利用机器学习的知识,很容易可以写出DNN的L2正则化的损失函数。     假如我们的
相关文章
相关标签/搜索