Pytorch的backward()相关理解

最近一直在用pytorch作GAN相关的实验，pytorch 框架灵活易用，很适合学术界开展研究工做。 这两天遇到了一些模型参数寻优的问题，才发现本身对pytorch的自动求导和寻优功能没有深入理解，致使没法灵活的进行实验。因而查阅资料，同时本身作了一点小实验，作了一些总结，虽然好像都是一些显而易见的结论，可是若是不能清晰的理解，对于实验复杂的网络模型程序会形成困扰。如下仅针对pytorch 0.

>>阅读原文<<