深度学习-计算量及GPU显存

1、计算量MACC与FLOP MACC：表示一次乘法累加。 FLOP：表示计算量，比如一次乘法或加法运算。FLOPs为FLOP单位，因此1 MACC=2 FLOPs 我们通常统计计算量使用FLOPs（浮点运算数），但是这里我们使用MACCs或乘法累加数。 理论计算量用FLOPs表示，关系到算法速度，大模型的单位通常为G，小模型通道为M。注意两点： 理论计算量通常只考虑只考虑CONV和FC等参数层的

>>阅读原文<<