一个知识蒸馏的简单介绍,一看就懂

点击上方“AI公园”,关注公众号,选择加“星标“或“置顶” 作者:Prakhar Ganesh 编译:ronghuaiyang 导读 对教师学生网络进行一个初步的了解。 什么是知识蒸馏? 近年来,神经模型在几乎所有领域都取得了成功,包括极端复杂的问题。然而,这些模型体积巨大,有数百万(甚至数十亿)个参数,因此不能部署在边缘设备上。 知识蒸馏指的是模型压缩的思想,通过一步一步地使用一个较大的已经训练
相关文章
相关标签/搜索