int8训练

在进行int8量化感知训练时,权重和特征是这样传递的,浮点型的特征 A r l − 1 经 过 量 化 后 变 成 i n t 8 比 特 的 A q l − 1 , 然 后 再 反 量 化 为 A r ′ l − 1 , W r l 也 是 同 样 , 量 化 为 W q l , 再 反 量 化 为 W r ′ l , 于 是 , W r ′ l 和 A r ′ l − 1 这 两 个 浮 点
相关文章
相关标签/搜索