deelearning.ai学习笔记——参数调试、Batch正则化和程序框架

超参数设定(调试处理) 需要处理的参数: 学习率α,动量梯度下降的参数β,选择的层数,mini-batch的大小等。其中最重要的是学习率α 如何选择调试值 (1)网格中取样点:选择参数效果好的点 (2)随机选择点(深度学习) 在进行超参数取值时,采用由粗到细的策略。具体解释为在进行取值试验时,发现某个效果最好的点,然后在这个点周围取一些点,放大这一区域,进行更加密集的取点。 选择合适的学习率 (1
相关文章
相关标签/搜索