【深度学习】Resnet详细笔记！！

Resnet 一、为什么会有Resnet 神经网络越深，训练效果一定就越好？答案是否定的。因为不断加深网络层次，模型会发生退化现象。 那么，为什么会出现退化？ 1、不是过拟合 在吴恩达机器学习课中，提到过由于模型过于复杂（次数过高）导致了高方差。 过拟合是：高方差，低偏差（测试误差大而训练误差小）。而CNN退化表现为测试误差和训练误差都很大。因此不是过拟合导致。 2、不是梯度爆炸/消失 这是前向传

>>阅读原文<<