10.2 常见的Normalization方法(BN、LN、IN、GN)

一、为什么要Normalization? 二、常见的Normalization方法(BN、LN、IN、GN)       这节课我们来学习常见的Normalization方法(BN、LN、IN、GN)。 一、为什么要Normalization? 其实这个问题在BN的论文中已经给了答案了，就是因为在深度学习中，出现一个ICS的问题。数据尺度/分布的异常，导致模型训练困难。   二、常见的Normal

>>阅读原文<<