格灵深瞳开源量化算法 EasyQuant

深度学习给人工智能算法带来了跃阶式的突破,引领了近几年的AI繁荣发展。相应的,“AI+”和“+AI”落地应用在各产业领域遍地开花。而深度网络模型的嵌入式应用和加速,则是人工智能落地的重要方向。 为了实现深度网络模型的加速,量化是一种常用的优化方式。量化后需要的资源只有原来的1/4,这样就可以使用更多的并行指令,从而实现加速。 “量化是将原本用高精度float32表示的模型,转化成用低精度Int8或
相关文章
相关标签/搜索