知识蒸馏 | 模型压缩利器_良心总结

1.什么是知识蒸馏 最近利用知识蒸馏的方法，对业务中的性能有了可观的提高，所以在这里总结一波。本文主要从宏观的角度分析一下各个蒸馏算法的蒸馏方式，具体细节能够根据兴趣阅读论文~ 知识蒸馏是一种模型压缩常见方法，用于模型压缩指的是在teacher-student框架中，将复杂、学习能力强的网络学到的特征表示“知识蒸馏”出来，传递给参数量小、学习能力弱的网络。从而咱们会获得一个速度快，能力强的网络，

>>阅读原文<<