深度学习---超参数调试

超参数搜索的策略      在深度学习中,超参数有很多,比如学习率α、使用momentum或Adam优化算法的参数(β1,β2,ε)、层数layers、不同层隐藏 单元数hidden units、学习率衰退、mini=batch的大小等。其中一些超参数比其他参数重要,其优先级可以分为以下几级,如图,红色 框最优先,橙色次之,紫色再次之,最后没有框住的一般直接取经验值。               
相关文章
相关标签/搜索