蒸馏法——人脸识别

1，Model Distillation with Knowledge Transfer from Face Classification to Alignment and Verification 1）初始化策略： 1.1）使用softmax损失先进行预训练优化， 2) 对于非分类任务的蒸馏法损失函数如下所示： 其中第一项是特定任务的损失函数，第三项是特定任务的蒸馏损失项，第二项是原始hinto

>>阅读原文<<