Toybrick

标题: 有关rknn模型config和build, inference关系的疑问 [打印本页]

作者: yaowei    时间: 2019-5-8 11:16
标题: 有关rknn模型config和build, inference关系的疑问
config里的参数,对rknn模型build,模型inference有什么影响?

rknn模型的config接口内的channel_mean_value和reorder_channel等参数,是对build接口里的dataset内的数据预处理吗?如果是,那么dataset对build的影响是什么呢?
对inference接口的数据数据inputs=[img]有没有影响呢?是不是对它进行了预处理?

作者: troy    时间: 2019-5-9 08:39
channel_mean_value和reorder_channel,是对模型输入数据进行预处理,也就是模型转换完成之后,输入的数据会rknn先按照配置进行预处理,比如进行归一化,或者交换rgb顺序,这个步骤是发生在RKNN内部的。
而dataset是开启量化才需要的配置,RKNN会对dataset的图像数据分布进行分析,以达到一个比较好的量化效果,降低精度损失,因此最好使用训练的图像或者预测的图像作为dataset。
作者: yaowei    时间: 2019-5-9 11:08
那根据文档说明,在其他模型转换到rknn模型的时候,需要调用config,设置channel_mean_value和reorder_channel等参数的,这些参数就写入rknn模型了;

在load_rknn进行推理的时候,是不需要调用config的,而在推理的时候,会调用之前保存的参数,对输入的图像进行预处理的,是不是?
作者: jefferyzhang    时间: 2019-5-21 14:23
yaowei 发表于 2019-5-9 11:08
那根据文档说明,在其他模型转换到rknn模型的时候,需要调用config,设置channel_mean_value和reorder_chan ...

是的,做模型时候如果填入了均值和方差,在量化、推理时候都会再次被使用到,不需要手动再做归一化前处理




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3