深度学习入门知识梳理（三）：学习相关技巧

文章目录 前言 一、优化器的选择（参数的更新算法） 1.一、随机梯度降低法（SGD） 1.二、Momentum 1.三、AdaGrad 1.四、RMSProp 1.五、Adam 二、权重的初始值 三、Batch Normalization 四、抑制过拟合 4.一、正则化 4.二、DropOut 五、超参数的设定 前言   本文涉及参数的最优化更新算法、权重参数的初始值、Batch Normaliz

>>阅读原文<<