梯度下降法、Epoch、Batchsize、Iterations

张量运算的导数:梯度 梯度(gradient)是张量运算的导数。它是导数这一改你那向多元函数导数的推广。多远函数是以张量作为输入的函数。 对于一个函数f(x),你可以通过将x向导数的反方向移动一小步来减小f(x)的值。同样,对于张量的函数f(w),你也可以通过将w向梯度的反方向移动来减小f(w),比如W1 = W0 - step*gradient(f)(W0) ,其中step是一个很小的比例因子。
相关文章
相关标签/搜索