《动手学深度学习》第十七天---批量归一化

因为在看论文的时候设涉及批量归一化的知识，因此决定提早学这一节。python 那么进行归一化有什么好处呢？ 缘由在于神经网络学习过程本质就是为了学习数据分布，一旦训练数据与测试数据的分布不一样，那么网络的泛化能力也大大下降；另一方面，一旦每批训练数据的分布各不相同(batch 梯度降低)，那么网络就要在每次迭代都去学习适应不一样的分布，这样将会大大下降网络的训练速度。 批量归一化（batch no

>>阅读原文<<