loss问题——工作中对出现的loss问题描述与解决参考

问题一：loss跑飞 如下图描述 1、学习率（lr）过大，可以自定义一个学习率的值（较小）开始学习。 参考blog：https://blog.csdn.net/CHNguoshiwushuang/article/details/81784299 也就是说，学习率如果设置过大，会导致其直接跑到另外一边，从而导致loss跑飞。当然真实的loss变化是在一个奇异空间里的，不是图上的那种二维曲线。 设置学

>>阅读原文<<