CHAPTER 11-Training Deep Neural Nets-part3

本篇文章是个人翻译的,如有商业用途,请通知本人谢谢. Faster Optimizers  训练一个非常大的深度神经网络可能会非常缓慢。 到目前为止,我们已经看到了四种加速培训的方法(并且达到更好的解决方案):对连接权重应用良好的初始化策略,使用良好的激活功能,使用批量规范化以及重用预训练网络的部分。 另一个巨大的速度提升来自使用比普通渐变下降优化器更快的优化器。 在本节中,我们将介绍最流行的:动
相关文章
相关标签/搜索