do_quantization=True 会导致模型转换失败

[复制链接] · 发表于 2019-3-7 12:11:48

本帖最后由 nila 于 2019-3-7 14:09 编辑

0.98版本，模型转换的时候，do_quantization=True会出错，只有do_quantization=False才能成功，请问原因是什么呢？日志如下：

只看该作者 · 发表于 2019-3-7 14:29:04

dataset参数有填吗？里面是否有填写图片的路径？从报错的信息来看，好像是没有图片。

只看该作者 · 发表于 2019-3-7 14:59:10

raul 发表于 2019-3-7 14:29
dataset参数有填吗？里面是否有填写图片的路径？从报错的信息来看，好像是没有图片。 ...

dataset.txt里面就一行
imgtest.bmp
相同目录下有一张imgtest.bmp 的图像
试过用resnet101是可以跑过的，我们自己的这个会出问题，是不是有哪些层不支持呢？完整日志请见附件。

只看该作者 · 发表于 2019-3-8 09:41:28

你把图片格式改成jpg或png后再试下。

只看该作者 · 发表于 2019-3-8 15:46:19

raul 发表于 2019-3-8 09:41
你把图片格式改成jpg或png后再试下。

换成jpg就可以了

但是有的模型用bmp可以，有的不行，算个bug吗？

只看该作者 · 发表于 2019-3-8 16:18:13

nila 发表于 2019-3-8 15:46
换成jpg就可以了

但是有的模型用bmp可以，有的不行，算个bug吗？

谢谢反馈，我们再确认下。