深度学习第二课 改善深层神经网络：超参数调试、正则化以及优化 第三周超参数调试+Batch normalization笔记和做业

超参数调试处理策略 超参数搜索的策略 1. 随机取值。 　　网格搜索的问题在于：没法预先判断哪一个参数是比较重要的，所以将浪费大量的运算在没有明细做用的变量上。 2. 精确搜索 web 为超参数选取合适的范围 　　对于如神经网络隐藏层数这类超参数能够采用平均取值，可是对于相似学习率和指数加权平均中的超参数 β 这类超参数须要采用对数平均取值。 　　如对学习率取值时，学习率的变化范围为[0.001,

>>阅读原文<<