海思AI芯片(Hi3519A/3559A)方案学习(二十七)python3引起darknet模型转换caffe失败的原因分析

前言

首先申明,该问题是我的一位群友发现的。我这里只是把他的结论加以验证并总结在这里。

问题描述

在海思学习系列中,我们已经写了一篇文章来介绍如何将darknet模型转换成caffe model(http://www.javashuo.com/article/p-nayyynrt-vx.html)。但是因为环境平台的原因,尤其是python2和python3语法有些不同的原因还是会在实际转换过程中会遇到各种各样的问题。

下面这个问题就是由于python2和python3语法差别而引起的。首先看现象:

上面的错误log很容易被认为是protobuf的原因,其实关键点是: Expected integer。

再看看生成的prototxt文件,里面的pad值为float型,如下所示。

 再看看将cfg转换成prototxt的对应脚本代码

后来才知道,对于python2来说,除法‘/ ’两边都是整数的话,其结果也是整数;而对于python3而言,无论除法两边为整数还是浮点数,其结果都为浮点数。

回到上面代码中的红框部分,如果上面代码用python2来运行的话,pad参数值为整数;反之,如果用python3来运行的话,则变成浮点数了。而caffe的prototxt中参数值是不可能为浮点数的

要想用python3运行模型转换脚本来避开这个坑,可以将 '/'改成 '//'。