网络压缩-一、低秩分解

网络压缩(network compression) 一、低秩近似 （低秩分解 Low Rank Expansion）web 上图展现了低秩分解的基本思想: 将原来大的权重矩阵分解成多个小的矩阵， 右边的小矩阵的计算量都比原来大矩阵的计算量要小， 这是低秩分解的基本出发点。网络 奇异值分解SVD、CP分解、Tucker分解、Tensor Train分解和Block Term分解 用低秩矩阵近似原有权

>>阅读原文<<