Toybrick

标题: do_quantization=True 会导致模型转换失败 [打印本页]

作者: nila    时间: 2019-3-7 12:11
标题: do_quantization=True 会导致模型转换失败
本帖最后由 nila 于 2019-3-7 14:09 编辑

0.98版本, 模型转换的时候,do_quantization=True会出错,只有do_quantization=False才能成功,请问原因是什么呢?日志如下:
[attach]165[/attach]
[attach]166[/attach]

[attach]167[/attach]






作者: raul    时间: 2019-3-7 14:29
dataset参数有填吗?里面是否有填写图片的路径?从报错的信息来看,好像是没有图片。
作者: nila    时间: 2019-3-7 14:59
raul 发表于 2019-3-7 14:29
dataset参数有填吗?里面是否有填写图片的路径?从报错的信息来看,好像是没有图片。 ...

dataset.txt里面就一行
imgtest.bmp
相同目录下有一张imgtest.bmp 的图像
试过用resnet101是可以跑过的,我们自己的这个会出问题,是不是有哪些层不支持呢?完整日志请见附件。

作者: raul    时间: 2019-3-8 09:41
你把图片格式改成jpg或png后再试下。
作者: nila    时间: 2019-3-8 15:46
raul 发表于 2019-3-8 09:41
你把图片格式改成jpg或png后再试下。


换成jpg就可以了

但是有的模型用bmp可以,有的不行,算个bug吗?

作者: raul    时间: 2019-3-8 16:18
nila 发表于 2019-3-8 15:46
换成jpg就可以了

但是有的模型用bmp可以,有的不行,算个bug吗?

谢谢反馈,我们再确认下。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3