模型压缩

模型压缩（compression） 理论基础 必要性： 在许多网络结构中，如VGG-16网络，参数数量1亿3千多万，占用500MB空间，须要进行309亿次浮点运算才能完成一次图像识别任务。 可行性： 论文提出，其实在不少深度的神经网络中存在着显著的冗余。仅仅使用不多一部分（5%）权值就足以预测剩余的权值。该论文还提出这些剩下的权值甚至能够直接不用被学习。也就是说，仅仅训练一小部分原来的权值参数就有

>>阅读原文<<