Toybrick

rknn-toolkit1.0.0转换模型,量化699张图片失败

engin

中级会员

积分
228
楼主
发表于 2019-5-23 22:31:03    查看: 9504|回复: 3 | [复制链接]    打印 | 只看该作者
rknn-toolkit1.0.0转换模型,量化699张图片失败;量化两张图片正常
0.99版本转换模型,量化699张图片是正常的。
另外,rknn量化时,使用图片的选择有什么要求吗:训练数据 or 验证数据;一般选择多少张图片量化可以得到更好的结果?
回复

使用道具 举报

zhangzj

超级版主

积分
1117
沙发
发表于 2019-5-24 14:38:43 | 只看该作者
RKNN的量化过程中,需要找到合适的量化参数,这些量化参数的选择需要根据实际的输入做 inference 来确定。
因此使用的图片尽可能多样性即可,跟训练数据或验证数据没关系。
官方文档的建议是大于200张图片。

失败的时候报了什么log?是不是内存不足?
回复

使用道具 举报

engin

中级会员

积分
228
板凳
 楼主| 发表于 2019-5-25 12:18:40 | 只看该作者
zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中,需要找到合适的量化参数,这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

打印信息:
--> Loading model
done
--> Building model
Aborted (core dumped)
用的是1.0.0的docker运行的

回复

使用道具 举报

feihu_h

新手上路

积分
46
地板
发表于 2019-11-20 15:52:16 | 只看该作者
zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中,需要找到合适的量化参数,这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

对报内存不足,这个怎么办, 可以调整batchsize吗
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表