【昇腾学院】昇腾AI处理器软件栈--框架管理器(Framework)离线模型生成

离线模型生成 以卷积神经网络为例,在深度学习框架下构造好相应的网络模型,并且训练好原始数据,再通过离线模型生成器进行算子调度优化、权重数据重排和压缩、内存优化等,最终生成调优好的离线模型。离线模型生成器主要用来生成可以高效执行在昇腾AI处理器上的离线模型。 离线模型生成器的工作原理如上图所示,在接收到原始模型后,对卷积神经网络模型进行模型解析、量化、编译和序列化四个步骤: 1.解析 在解析过程中,
相关文章
相关标签/搜索