吴恩达《深度学习-改善深层神经网络》3--超参数调试、正则化以及优化

1. 系统组织超参调试Tuning process 1)深度神经网络的超参有学习速率、层数、隐藏层单元数、mini-batch大小、学习速率衰减、 β(优化算法)等。 其重要性各不相同,按重要性分类的话:    第一类:最重要的参数就是学习速率α     第二类:隐藏层单元数、mini-batch大小、β(优化算法)     第三类:层数、学习速率衰减 2)如何选择调试的参数组合呢? 当超参较少时
相关文章
相关标签/搜索