深度神经网络优化(三)- Hyperparameter tuning, Batch Normalization

第三篇呢,是深度神经网络优化的最后一堂课的笔记,主要介绍的是关于超参数调节,batch normalization以及多分类 Hpyerparameter tuning Tuning process 对于深度神经网络来说,我们有很多超参数需要调节 1. learning_rate: α α 2. momentum里的 β β 3. Adam里的 β1,β2,ϵ β 1 , β 2 , ϵ 4. l
相关文章
相关标签/搜索