神经网络调参指南笔记

2020年2月2日 1、神经网络调参指南笔记 可视化训练过程中每个step(batch)的loss。 将训练日志在打印到屏幕上的同时也写入到本地磁盘。 代码中完成pytorch等训练过程可视化环境的配置,最少要可视化出训练loss曲线。 初始调参阶段记得关闭L2、Dropout等用来调高模型泛化能力的超参数呐, 预设值合理的batch size,一般64不错 数据集不均衡的话建议使用更大一点的值,
相关文章
相关标签/搜索