PyTorch 学习笔记（四）：权值初始化的十种方法

pytorch在torch.nn.init中提供了常用的初始化方法函数，这里简单介绍，方便查询使用。 介绍分两部分： 1. Xavier，kaiming系列； 2. 其他方法分布   Xavier初始化方法，论文在《Understanding the difficulty of training deep feedforward neural networks》 公式推导是从“方差一致性”出发，初

>>阅读原文<<