Rocket Launching: A Universal and Efficient Framework for Training Well-performing Light Net论文阅读

目录 摘要 引言 相关工作 方法   框架和损失函数   方法特色 实验   不同的共享结构   CIFAR-10   rocket和AT的中间层注意图的可视化 结论 摘要 提出了用好网络帮助小网络训练的新的统一框架 这个框架中，好网络全程都在帮助小网络学习 分析了不同的loss的效果 用叫做gradient block的技巧同时提升了小网络和好网络的性能 引言 之前 分解和压缩解决推理时间长的问

>>阅读原文<<