基于连接重要性的稀疏剪枝

"SNIP: single shot network pruning based on connection sensitivity" 这篇文章提出了基于权重连接重要性(saliency)的剪枝方法,能够在深度模型训练之前(初始化阶段),通过mini-batch的多次采样,决定不同权重连接的重要性,进而根据剪枝目标生成剪枝模板(prunning mask)、应用于稀疏剪枝,从而节省了相对耗时的剪枝
相关文章
相关标签/搜索