早餐｜第十八期 · 开始使用模型优化器

早餐｜第十八期 · 开始使用模型优化器

爱学习的 OpenVINO 中文社区

内容来源| 曹慧燕
内容排版| 李擎

你们好，
这里是OpenVINO早餐

在上一期的节目中，
我带你们一块儿看了模型优化器
到底对模型作了哪些优化

从这一期开始，
咱们就来看看如何
使用模型优化器对模型进行转换。

做者介绍

○ 曹慧燕

英特尔
IOTG Edge
AI 工程师

正餐部分

视频放映

【持续更新】吃 OpenVINO 早餐，玩转深度学习部署

文稿阅读

开官方开发文档：https://docs.openvinotoolkit.org/，” Go to Guides >”，找到 Model Optimizer Developer Guide。

模型优化器的工做原理

• 模型优化器并不用来作模型推理
• 做用是把支持的模型框架训练出来的模型转成IR文件
• 在转换过程当中，除了在上一期中介绍的特定的模型优化技术之外，还有一些通用的优化。好比：移除推理阶段不须要的层，如：Dropout；使用一个操做算子替代一组操做节点，从而减小节点数，下降推理时间。

了解模型优化器是否支持你的模型

能够在Supported Framework Layers中查找模型优化器支持的层，若是你的模型中有不支持的层，或者有你本身定义的算法，须要参考Custom Layers in the Model Optimizer 去自定义这些算法。

源代码目录结构

• 在使用模型优化器的时候，咱们调用 mo.py 或者带 Framework 的 py 便可，他们都是调用 mo目录下的 main 函数。

• mo 目录中，有 front, middle, back, ops 这样的目录：

  front：前端的校验，包括：参数的校验，对原始模型的分析，检查模型优化器是否支持等。
  middle：对模型进行优化
  back：生成IR
  ops：定义了一些通用的操做

extensions 目录中定义了对支持的 Framework 中的模型的操做。一般，你自定义的算法须要放在这个目录中。

配置模型优化器

由于模型优化器是将OpenVINO支持的模型转成IR，所以，在对原始模型进行解析时，必须须要安装对应的框架以及相关的依赖库。

运行<INSTALL_DIR>/deployment_tools/model_optimizer/install_prerequisites目录下的install_prerequisites.sh或install_prerequisites.bat便可。

一般这一步在安装 OpenVINO 工具包的时候会建议你们配置好，若是你们在安装的时候没有配置，那在使用模型优化器以前必须配置好。
由于这些都是 python 库，对 python 熟悉的小伙伴能够建立虚拟环境并在虚拟环境中安装及使用模型优化器

该脚本会安装模型优化器支持的全部框架，也能够只安装特定的框架：

配置好环境之后，就能够开始使用模型优化器了。

使用模型优化器这一部份内容我会在下一期给你们介绍。
今天的分享就到这里，咱们下期节目见！

原文发布于2020-09-17：早餐｜第十八期 · 开始使用模型优化器

关注咱们，让开发变得更有趣👇

微信号：openvinodev
B站：OpenVINO 中文社区

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.