深度学习的训练加速

深层模型训练须要各类技巧，例如网络结构的选取，神经元个数的设定，权重参数的初始化，学习率的调整，Mini-batch的控制等等。即使对这些技巧十分精通，实践中也要屡次训练，反复摸索尝试。此外，深层模型参数多，计算量大，训练数据的规模也更大，须要消耗不少计算资源。若是可让训练加速，就能够在一样的时间内多尝试几个新主意，多调试几组参数，工做效率会明显提高，对于大规模的训练数据和模型来讲，更能够将难以完

>>阅读原文<<