F.Linear() 和 nn.Linear() 的区别

F.Linear(） 可以看到nn.Linear内部调用了F.Linear，相当于是将其封装了，并自动地对参数进行了初始化。如果我们想自己初始化参数，那么可以不用nn.Linear。 为了灵活地对参数按照自己的方式进行初始化，可以借鉴fairseq的初始化做法 def reset_parameters(self): nn.init.xavier_uniform_(se

>>阅读原文<<