固定点分解网络Fixed-point Factorized Networks

本文的方法第一步是对矩阵做定点分解,第二步是做全精度的权值的恢复,第三步是权值balancing,最后一步是fine-tuning。 同样是一个8*8的矩阵,把权值分解成两个矩阵的乘积形式,保证分解后的两个矩阵是一个定点表示,分解出来的左边矩阵,是一个ternary,右边是ternary的一个表示,中间有一个全精度的,浮点的,对称的矩阵,相当于一个尺度因子。 一个直观的解释,如果不考虑正负,他会选
相关文章
相关标签/搜索