基于可训练Step-size的低比特量化——LSQ: Learned Step-size Quantization

Paper地址:https://arxiv.org/abs/1902.08153 GitHub地址 (PyTorch):https://github.com/zhutmost/lsq-net 基本量化设置 计算结点伪量化: Weight跟Activation都采用Per-tensor量化; Scaling factor (Paper标记为Step size)是可学习参数; 量化计算公式: Step
相关文章
相关标签/搜索