2020李宏毅学习笔记——353.Network Compression(4_6)

4.Parameter Quantization(参数量化) less bits 一个很直观的方法就是使用更少bit来存储数值,例如一般默认是32位,那我们可以用16或者8位来存数据。 weight clustering(权重聚类) 最左边表示网络中正常权重矩阵,之后我们对这个权重参数做聚类(可以用kmean),比如最后得到了4个聚类,那么为了表示这4个聚类我们只需要2个bit,即用00,01,1
相关文章
相关标签/搜索