深度学习的实用技巧——L2正则化、Dropout正则化、梯度检验

1.深度学习应用是一个高度迭代的过程 想要找到一个称心的神经网络结构，是一个循环往复的过程： idea——>code——>experiment——>idea…… 超级参数的选择也是神经网络工程师关注的重要问题： #layers   ？ #hidden units  ？ learning rates  ？ activation functions   ？ 因此，创建高质量的训练数据集、验证集和测试集

>>阅读原文<<