Toybrick

onnx转换模型?

xiaqing10

高级会员

积分
572
发表于 2021-12-3 09:43:16    查看: 2425|回复: 7 | [复制链接]    打印 | 显示全部楼层
训练了一个模型,转成rknn后(aarch64和x86都转过)。如果是量化的,则报错为 RKNN_ERR_MODEL_INVALID。如果不是量化的,则是正常可以跑起来。这样就可以排除是rknn版本或者驱动的问题吧?
那请问怎么排查呢?
回复

使用道具 举报

jefferyzhang

版主

积分
12848
发表于 2021-12-3 09:45:51 | 显示全部楼层
谁跟你说排除rknn版本驱动问题。
只要你仿真能跑,目标板却跑不了,第一时间就得怀疑你rknntoolkit转换版本和板子上api/drv版本不匹配
回复

使用道具 举报

xiaqing10

高级会员

积分
572
 楼主| 发表于 2021-12-3 09:50:44 | 显示全部楼层
jefferyzhang 发表于 2021-12-3 09:45
谁跟你说排除rknn版本驱动问题。
只要你仿真能跑,目标板却跑不了,第一时间就得怀疑你rknntoolkit转换版本 ...

我的意思是 不量化的模型是在板子上跑的,是OK,但是量化后跑是不OK的。用的不是仿真环境,直接用用的是3399pro(1.6.0rknn-toolkit)
回复

使用道具 举报

xiaqing10

高级会员

积分
572
 楼主| 发表于 2021-12-3 10:07:40 | 显示全部楼层
另外,补充个测试。
在x86仿真下,不量化模型是可以的,量化后是不可以的。一样提示RKNN_ERR_MODEL_INVALID。
按照我的理解,这量化和不量化是和版本没啥关系的,应该只是数据的优化,怎么会有这个问题呢?
回复

使用道具 举报

jefferyzhang

版主

积分
12848
发表于 2021-12-3 10:21:03 | 显示全部楼层
xiaqing10 发表于 2021-12-3 10:07
另外,补充个测试。
在x86仿真下,不量化模型是可以的,量化后是不可以的。一样提示RKNN_ERR_MODEL_INVALID ...

rknntoolkit版本号是多少? 用最新版本试下。
回复

使用道具 举报

xiaqing10

高级会员

积分
572
 楼主| 发表于 2021-12-3 10:24:31 | 显示全部楼层
jefferyzhang 发表于 2021-12-3 10:21
rknntoolkit版本号是多少? 用最新版本试下。

之前用的1.3.2 , 目前都更了1.6.0。
之前也做过pose/yolov3/5还有centertrack/facenet/等模型,倒没发现这个问题,我重新整个新环境测试下。
或者方便的话,我提供我的Onnx模型,您这边方便测试下更好。
回复

使用道具 举报

jefferyzhang

版主

积分
12848
发表于 2021-12-3 11:12:25 | 显示全部楼层
xiaqing10 发表于 2021-12-3 10:24
之前用的1.3.2 , 目前都更了1.6.0。
之前也做过pose/yolov3/5还有centertrack/facenet/等模型,倒没发现 ...

请升级到目前最新版本1.7.1测试,如果还有问题,请到rknn qq群里反馈。
或者通过业务渠道登记redmine提bug
回复

使用道具 举报

sunkai

中级会员

积分
310
发表于 2021-12-4 11:10:46 | 显示全部楼层
之前有遇到过类似问题,后来用toolkit1.7的就ok了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表