论文阅读(8):ShrinkTeaNet: Million-scale Lightweight Face Recognition via Shrinking Teacher-Student Net

一、问题与挑战 大规模人脸识别在很多领域得以应用,这些系统大多依赖于复杂、参数量多的深度神经网络来实现,计算量大,复杂度高。需要高性能、有并行计算能力的特殊硬件才能执行,不适用于移动设备或嵌入式系统 现有的知识蒸馏方法专注于闭集问题下的精度和压缩比,以“测试类别与训练类别是固定的”为前提,不适用于开集任务 现有知识蒸馏方法大多数都才去teacher和student的特征间L2距离,要求特征进行精确
相关文章
相关标签/搜索