正则化的方法(L1、L2、dropout等)原理与实现

一、引入原因 正则化是为了处理过拟合问题，关于什么是过拟合，可查看这篇博客https://blog.csdn.net/weixin_45459911/article/details/105769370 二、正则化的常用方法 1、增大训练集 训练的数据集规模越大，越不容易发生过拟合，但是这点往往受限于实际要求，所以有的时候很难实现。 2、L1 & L2范数 1、范数的数学定义 假设 x 是一个向量，

>>阅读原文<<