调试神经网络的注意事项和技巧总结（一）

最近在调试神经网络的过程中，遇到了网络不收敛的情况，查阅了很多的相关的资料，根据相关的建议，作出了一些实验，来进行调试，下面这几点是我遇到的几个坑： 1.数据预处理 2. 数据规范化 3.正则化 4.batch size 5.使用了不适当的学习率 6.在最后一层使用了错误的**函数 7.网络含有不良梯度 8.尝试不同的优化器 9.及时检查结果 首先，对于一个神经网络来说，我们在进行建模的时候，数据

>>阅读原文<<