吴恩达deeplearning.ai《改善深层神经网络:超参数调试、正则化以及优化》-超参数调试,Batch正则化和程序框架(三)

调试处理 根据调参的重要程度排序,首要重要的是红色,即学习率α,其次重要为黄色,再次之为紫色。 当我们尝试参数的时候,尽量采用一定范围内随机取值。而不是划定网格,有规律的取值。因为面对很多维度参数时,很难说我们能直观衡量出哪一个参数对于整个学习更加重要。如果你随机取值,也就能探索更多超参数的潜在值。 当我们寻找在一个区域的参数表现很好的时候,我们可以划定一个范围,更加精细的随机尝试取值。即大范围粗
相关文章
相关标签/搜索