Toybrick

标题: onnx转换模型？ [打印本页]

作者: xiaqing10 时间: 2021-12-3 09:43
标题: onnx转换模型？
训练了一个模型，转成rknn后(aarch64和x86都转过)。如果是量化的，则报错为 RKNN_ERR_MODEL_INVALID。如果不是量化的，则是正常可以跑起来。这样就可以排除是rknn版本或者驱动的问题吧？
那请问怎么排查呢？

作者: jefferyzhang 时间: 2021-12-3 09:45
谁跟你说排除rknn版本驱动问题。
只要你仿真能跑，目标板却跑不了，第一时间就得怀疑你rknntoolkit转换版本和板子上api/drv版本不匹配

作者: xiaqing10 时间: 2021-12-3 09:50

jefferyzhang 发表于 2021-12-3 09:45
谁跟你说排除rknn版本驱动问题。
只要你仿真能跑，目标板却跑不了，第一时间就得怀疑你rknntoolkit转换版本 ...

我的意思是不量化的模型是在板子上跑的，是OK，但是量化后跑是不OK的。用的不是仿真环境，直接用用的是3399pro(1.6.0rknn-toolkit)

作者: xiaqing10 时间: 2021-12-3 10:07
另外，补充个测试。
在x86仿真下，不量化模型是可以的，量化后是不可以的。一样提示RKNN_ERR_MODEL_INVALID。
按照我的理解，这量化和不量化是和版本没啥关系的，应该只是数据的优化，怎么会有这个问题呢？

作者: jefferyzhang 时间: 2021-12-3 10:21

xiaqing10 发表于 2021-12-3 10:07
另外，补充个测试。
在x86仿真下，不量化模型是可以的，量化后是不可以的。一样提示RKNN_ERR_MODEL_INVALID ...

rknntoolkit版本号是多少？用最新版本试下。

作者: xiaqing10 时间: 2021-12-3 10:24

jefferyzhang 发表于 2021-12-3 10:21
rknntoolkit版本号是多少？用最新版本试下。

之前用的1.3.2 ，目前都更了1.6.0。
之前也做过pose/yolov3/5还有centertrack/facenet/等模型，倒没发现这个问题，我重新整个新环境测试下。
或者方便的话，我提供我的Onnx模型，您这边方便测试下更好。

作者: jefferyzhang 时间: 2021-12-3 11:12

xiaqing10 发表于 2021-12-3 10:24
之前用的1.3.2 ，目前都更了1.6.0。
之前也做过pose/yolov3/5还有centertrack/facenet/等模型，倒没发现 ...

请升级到目前最新版本1.7.1测试，如果还有问题，请到rknn qq群里反馈。
或者通过业务渠道登记redmine提bug

作者: sunkai 时间: 2021-12-4 11:10
之前有遇到过类似问题，后来用toolkit1.7的就ok了

欢迎光临 Toybrick (https://t.rock-chips.com/)