Toybrick

关于使用rknn toolkit及rknn模型的问题

子墨_

注册会员

积分
87
楼主
发表于 2020-3-17 10:51:48    查看: 9396|回复: 3 | [复制链接]    打印 | 只看该作者
我用的是1.3版本的rknn toolkit,转换的是tensorflow模型,然后在推理时出现了两个问题:
1、如果我在板子上运行时指定rknn.init_runtime('target = rk3399pro'),咋会直接报图中的错误,但是我如果不指定target,板子初始化环境的时间会特别久(5分钟以上),请教下大家知道这是什么原因吗?



2、我的output输出的维度是和设想的一致,转换的时候也是用netron查看的输入输出节点名字,说明模型确实起到了作用,但是output的数值全是0(见下图),这一点可能会是什么原因引起的呢?


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
13580
沙发
发表于 2020-3-17 11:02:48 | 只看该作者
1. 当前板子运行,target要留空
2. 加载时间久,可以尝试转换rknn模型时候加入precompile=True,详细查看文档。
3. 推理是0你要确认下全0还是中间有其他值,如果是softmax,本来就是0多。如果推理结果和PC差异比较大,就需要一层层debug看下哪层OP造成的问题。

回复

使用道具 举报

子墨_

注册会员

积分
87
板凳
 楼主| 发表于 2020-3-17 11:18:50 | 只看该作者
jefferyzhang 发表于 2020-3-17 11:02
1. 当前板子运行,target要留空
2. 加载时间久,可以尝试转换rknn模型时候加入precompile=True,详细查看文 ...

1、我如果用precompile=True,但是他会出 RKNN_ERR_MODEL_INVALID 的错误,我的drv显示是0.9.7,但是用的是rknn api1.3.0,不用的话则不会报错,不知道是不是要更新,如果需要的话应该怎样更新呢?
2、另外模型的输出结果和PC差异非常大,这个一层一层debug的话是不是要一层一层的转模型然后跑测试?但是最终也是要转成rknn模型用npu的,这样如果找出测试结果不对,在转整个模型的时候又应该怎样做才能调整呢?还有板子上有推荐可以使用的ide吗?
回复

使用道具 举报

jefferyzhang

版主

积分
13580
地板
发表于 2020-3-17 11:28:36 | 只看该作者
本帖最后由 jefferyzhang 于 2020-3-17 11:29 编辑
子墨_ 发表于 2020-3-17 11:18
1、我如果用precompile=True,但是他会出 RKNN_ERR_MODEL_INVALID 的错误,我的drv显示是0.9.7,但是用的 ...

你dri和rknn版本都不匹配。。。当然会出问题
更新直接看置顶的整合贴里debian10升级说明
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表