3、CUDA semanticsui
2、Broadcasting semantics 广播机制spa
广播机制要第一项对齐,第一项对齐后(相等)才能广播,或者某个第一项为1。code
但若是两个size个数相等,则第一项必须相等,某一项为1也不行。blog
1、Autograd mechanicsast
x=torch.randn(5,5) y=torch.randn(5,5) z=torch.randn((5,5),requires_grad=True) a=x+y a.requires_grad Out[135]: False b=a+z b.requires_grad Out[137]: True