batch归一化

本文来自于网易云课堂 在深度学习兴起后,最重要的一个思想是一个算法-Batch归一化,由Sergey Ioffe和Christian Szegedy两位研究者创造。Batch归一化会使参数搜索问题变得很容易,使神经网络对超参数的旋转更加稳定,超参数的范围会更庞大,工作效果也很好。 在逻辑回归中,我们学过归一化输入会让算法运行的更好。 那么我们可不可以归一化每一层的a来使得下一次的参数训练的更好呢?
相关文章
相关标签/搜索