rknn-toolkit1.0.0转换模型，量化699张图片失败

[复制链接] · 发表于 2019-5-23 22:31:03

rknn-toolkit1.0.0转换模型，量化699张图片失败；量化两张图片正常
0.99版本转换模型，量化699张图片是正常的。
另外，rknn量化时，使用图片的选择有什么要求吗：训练数据 or 验证数据；一般选择多少张图片量化可以得到更好的结果？

只看该作者 · 发表于 2019-5-24 14:38:43

RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
因此使用的图片尽可能多样性即可，跟训练数据或验证数据没关系。
官方文档的建议是大于200张图片。

失败的时候报了什么log？是不是内存不足？

只看该作者 · 发表于 2019-5-25 12:18:40

zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

打印信息：
--> Loading model
done
--> Building model
Aborted (core dumped)
用的是1.0.0的docker运行的

只看该作者 · 发表于 2019-11-20 15:52:16

zhangzj 发表于 2019-5-24 14:38
RKNN的量化过程中，需要找到合适的量化参数，这些量化参数的选择需要根据实际的输入做 inference 来确定。
...

对报内存不足，这个怎么办，可以调整batchsize吗