|
本帖最后由 heizhima 于 2020-6-5 17:36 编辑
背景:yolo系列pytorch模型,依次转onnx再到rknn模型,但是rknn推理结果为None。
1. pytorch模型推理结果是正常的。
2. onnx模型可视化正常,且推理结果正常。
3. pytorch推理和rknn推理的预处理和后处理代码一致。
4. 转rknn模型,测试do_quantization为True/False,推理结果都是为None。
5. 确认channle_mean和channel_order,inference输入的NHWC和NCHW的方式。
通过打印rknn模型的输出和后处理数据,发现是有输出数据,推理结果为None是由于检测的框对应的分数太低(小于0.5)均被丢弃,这个阈值改成0.1结果依旧为None。猜想rknn模型的推理和pytorch模型的推理结果不一致,且相差很大,在阈值过滤中全被丢弃了。
由于没有报错信息,不知如何调试,请指教!
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有帐号?立即注册
x
|