Toybrick

标题: 有关rknn模型config和build, inference关系的疑问 [打印本页]

作者: yaowei 时间: 2019-5-8 11:16
标题: 有关rknn模型config和build, inference关系的疑问
config里的参数，对rknn模型build，模型inference有什么影响？

rknn模型的config接口内的channel_mean_value和reorder_channel等参数，是对build接口里的dataset内的数据预处理吗？如果是，那么dataset对build的影响是什么呢？
对inference接口的数据数据inputs=[img]有没有影响呢？是不是对它进行了预处理？

作者: troy 时间: 2019-5-9 08:39
channel_mean_value和reorder_channel，是对模型输入数据进行预处理，也就是模型转换完成之后，输入的数据会rknn先按照配置进行预处理，比如进行归一化，或者交换rgb顺序，这个步骤是发生在RKNN内部的。
而dataset是开启量化才需要的配置，RKNN会对dataset的图像数据分布进行分析，以达到一个比较好的量化效果，降低精度损失，因此最好使用训练的图像或者预测的图像作为dataset。

作者: yaowei 时间: 2019-5-9 11:08
那根据文档说明，在其他模型转换到rknn模型的时候，需要调用config，设置channel_mean_value和reorder_channel等参数的，这些参数就写入rknn模型了；

在load_rknn进行推理的时候，是不需要调用config的，而在推理的时候，会调用之前保存的参数，对输入的图像进行预处理的，是不是？

作者: jefferyzhang 时间: 2019-5-21 14:23

yaowei 发表于 2019-5-9 11:08
那根据文档说明，在其他模型转换到rknn模型的时候，需要调用config，设置channel_mean_value和reorder_chan ...

是的，做模型时候如果填入了均值和方差，在量化、推理时候都会再次被使用到，不需要手动再做归一化前处理

欢迎光临 Toybrick (https://t.rock-chips.com/)