关于神经网络训练的一些技巧NN Tricks

神经网络能够构建，简单的几行TensorFlow代码或者Pytorch代码就可以实现，但是效果并不一定理想。为什么一般采用连续的拟合任意函数？在手中有足够的数据时，仔细设计的网络是可以得到更好的准确率和泛化性。 课上老师讲到，避免设计太多参数，优化超参数，精准设计网络。有一些简单的Trick可以参考如下： 主要来源 CS224D Lecture 6 Debugging Neural Network

>>阅读原文<<