深度学习中的trick

下面浅谈深度学习中的技巧。 学习率（learning rate） 学习率的设置应该随着迭代次数的增加而减小，每迭代完指定次epoch也就是对整个数据过一遍，然后对学习率进行变化，这样能够保证每个样本得到公平的对待。 卷积神经网络CNN中的技巧 CNN中将一个大尺寸的卷积核分解成多层的小尺寸的卷积核或者分解成多层的一维卷积，这样能够减少参数并增加非线性。 CNN中的网络设计应该逐渐减少图像尺寸，同时

>>阅读原文<<