深度学习：网络优化之超参数

超参数优化（Hyperparameter Optimization） 常见的类型 （1） 网络结构，包括神经元之间的连接关系、层数、每层的神经元数量、激活函数的类型等。 （2） 优化参数，包括优化方法、学习率、小批量的样本数量等。 （3） 正则化系数 主要存在的困难. （1）超参数优化是一个组合优化问题， 无法像一般参数那样通过梯度下降方法来优化。 （2）评估一组超参数配置 的时间代价非常高。 对

>>阅读原文<<