loss波动变化,准确率变化也不大

最近在做多分类,然后训练的时候发现loss在慢慢下降(越到后面越慢),但是准确率却一直在一个区间内上下波动 解决方法:调整学习率,调大或调小一点,自己试试。 为什么这样子可以解决? 答:在学习梯度下降的时候,要使得目标函数最小,则我们需要寻找最优的参数theta, theta的更新方式为: theta = theta - a*梯度(其中a是学习率) 当学习率不合适的时候,可能就会出现如图的情况 (
相关文章
相关标签/搜索