加速梯度降低法

Nesterov’s Accelerated Gradient Descentweb 通常的梯度降低算法的收敛速率为 o(1/t) , t 表示迭代的次数。可是人们已经证实了随着迭代次数 t 的增长。收敛速率能够到达 o(1/t2) .算法 1.简介: 加速梯度算法(AGD)是梯度算法(GD)的一个改进的版本。Nesterov 在1983年首次提出。人们已经证实AGD算法是全部基于梯度算法（或者说

>>阅读原文<<