模型量化——基础知识 & LSQ论文阅读

  感谢陈老师给的机会，有幸能够参加2020年的DAC比赛。我在其中负责目标检测器的调试和量化。自己第一次接触量化这个任务，很多东西都是一点一点学。 一、量化基础   对于一个全精度的值 v v v，若量化步长为 s s s（也可理解为量化分辨率），正负量化层级（quantization levels ）分别为 Q P Q_{P} QP​和 Q N Q_{N} QN​。则量化过程为： v ˉ =

>>阅读原文<<