深度学习笔记(2)：1.4 正则化 | 1.5 为什么正则化可以减少过拟合

1.4   正则化  考虑对LR加正则化，我们可以加L1 norm和L2 norm，如下图所示： 图来自于吴恩达老师深度学习课程PPT 如图所示，我们在cost function上对W添加了正则化(这里不考虑b，假设已经对数据进行了标准化处理)。一范数是指W所有分量(所有系数)的绝对值之和，二范数是指W所有分量的平方和开方，所以二范数的平方为W所有分量的平方和，即W的内积。 根据对目标函数的观察，

>>阅读原文<<