Toybrick

标题: rknn-toolkit1.0.0转换模型，量化699张图片失败 [打印本页]

作者: engin 时间: 2019-5-23 22:31
标题: rknn-toolkit1.0.0转换模型，量化699张图片失败
rknn-toolkit1.0.0转换模型，量化699张图片失败；量化两张图片正常
0.99版本转换模型，量化699张图片是正常的。
另外，rknn量化时，使用图片的选择有什么要求吗：训练数据 or 验证数据；一般选择多少张图片量化可以得到更好的结果？

作者: zhangzj 时间: 2019-5-24 14:38
RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
因此使用的图片尽可能多样性即可，跟训练数据或验证数据没关系。
官方文档的建议是大于200张图片。

失败的时候报了什么log？是不是内存不足？

作者: engin 时间: 2019-5-25 12:18

zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

打印信息：
--> Loading model
done
--> Building model
Aborted (core dumped)
用的是1.0.0的docker运行的

作者: feihu_h 时间: 2019-11-20 15:52

zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

对报内存不足，这个怎么办，可以调整batchsize吗

欢迎光临 Toybrick (https://t.rock-chips.com/)