莫烦视频笔记--为什么要批标准化(Batch Normalization)?

Batch Normalization批标准化和普通的数据标准化类似,是将分散的数据统一的一种做法,也是优化神经网络的一种方法。在之前normalization的简介视频中我们提到具有统一规格的数据能让机器学习更容易学到数据之间的规律。 在神经网络中,数据分布对训练会产生影响,比如某个神经元x的值为1,某个weights的初始值为0.1,这样后一层神经元计算的结果就是Wx=0.1,又或者x=20,
相关文章
相关标签/搜索