在训练的时候loss增大怎么办

引发这种问题的根本缘由是Hessian矩阵的病态条件数 一、对学习率乘上一个参数(0.99或者0.999)使得学习率随着学习步骤的进行而降低 二、另外一种办法就是采用现成的优化算法。web 参考连接:https://www.zhihu.com/question/60510992算法
相关文章
相关标签/搜索