【论文阅读笔记】PACT:PArameterized Clipping Activation for Quantized Neural Networks

全文概括   本文目的是将 activation 和 weight 一起量化,其结果能量化 activation 和 weight 到 4-bit 大小,且准确度能和 full precision 媲美(在一系列流行的模型和数据集上)。   该方法是提出一个新的激活函数,即PACT(PArameterized Clipping Activation),其作用在训练阶段,即该方案是从头开始训练的。
相关文章
相关标签/搜索