Toybrick

有关rknn模型config和build, inference关系的疑问

yaowei

中级会员

积分
369
发表于 2019-5-8 11:16:35    查看: 1857|回复: 3 | [复制链接]    打印 | 显示全部楼层
config里的参数,对rknn模型build,模型inference有什么影响?

rknn模型的config接口内的channel_mean_value和reorder_channel等参数,是对build接口里的dataset内的数据预处理吗?如果是,那么dataset对build的影响是什么呢?
对inference接口的数据数据inputs=[img]有没有影响呢?是不是对它进行了预处理?
回复

使用道具 举报

troy

版主

积分
1758
发表于 2019-5-9 08:39:20 | 显示全部楼层
channel_mean_value和reorder_channel,是对模型输入数据进行预处理,也就是模型转换完成之后,输入的数据会rknn先按照配置进行预处理,比如进行归一化,或者交换rgb顺序,这个步骤是发生在RKNN内部的。
而dataset是开启量化才需要的配置,RKNN会对dataset的图像数据分布进行分析,以达到一个比较好的量化效果,降低精度损失,因此最好使用训练的图像或者预测的图像作为dataset。
回复

使用道具 举报

yaowei

中级会员

积分
369
 楼主| 发表于 2019-5-9 11:08:02 | 显示全部楼层
那根据文档说明,在其他模型转换到rknn模型的时候,需要调用config,设置channel_mean_value和reorder_channel等参数的,这些参数就写入rknn模型了;

在load_rknn进行推理的时候,是不需要调用config的,而在推理的时候,会调用之前保存的参数,对输入的图像进行预处理的,是不是?
回复

使用道具 举报

jefferyzhang

超级版主

积分
7730
发表于 2019-5-21 14:23:24 | 显示全部楼层
yaowei 发表于 2019-5-9 11:08
那根据文档说明,在其他模型转换到rknn模型的时候,需要调用config,设置channel_mean_value和reorder_chan ...

是的,做模型时候如果填入了均值和方差,在量化、推理时候都会再次被使用到,不需要手动再做归一化前处理
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表