剪枝PRUNING TUTORIAL

最新的深度学习技术依赖于难以部署的过度参数化模型。相反,已知生物神经网络使用有效的稀疏连通性。为了减少内存,电池和硬件消耗,同时又不牺牲精度,在设备上部署轻量级模型并通过私有设备上计算来确保私密性,确定通过减少模型中的参数数量来压缩模型的最佳技术很重要。在研究方面,剪枝用于研究参数过度配置和参数不足网络之间学习动态的差异,以研究幸运稀疏子网络和初始化(“lottery tickets”)作为破坏性
相关文章
相关标签/搜索