模型压缩中知识蒸馏技术原理及其发展现状和展望

知识蒸馏是非常经典的基于迁移学习的模型压缩技术，在学术界的研究非常活跃，工业界也有许多的应用和较大的潜力，本文给大家梳理知识蒸馏的核心技术，发展现状，未来展望以及学习资源推荐。 1 知识蒸馏基础 1.1 什么是知识蒸馏 一般地，大模型往往是单个复杂网络或者是若干网络的集合，拥有良好的性能和泛化能力，而小模型因为网络规模较小，表达能力有限。利用大模型学习到的知识去指导小模型训练，使得小模型具有与大模

>>阅读原文<<