pyTorch--Gradient 两种方法

torch.autograd.grad(loss, [w1,w2,...]) 第一个参数是损失函数，第二个参数是loss的变量， 返回值是一个包含每个变量的偏导的list，[w1.grad,w2.grad,…] loss.backward() 直接用loss调用backword函数，但是这样不会直接返回梯度信息，而是附在每个要求梯度的变量上，可以通过w.grad查看变量的偏导。

>>阅读原文<<