优化算法实验比较

最近在学习神经网络的优化算法,发现网上有不少的算法介绍,可是却没有算法实现和实验对比,因此我就用python实现了BGD,SGD,MBGD,Momentum,Nesterov,Adagrad,RMSprop等算法,另外的Adam和NAdam算法是将Momentum,Nesterov,Adagrad几项合并起来的算法,属于工程方面的内容,因此我就没有实现了。html 算法原理主要参考文献是: 总体算
相关文章
相关标签/搜索