Toybrick

标题: 关于使用rknn toolkit及rknn模型的问题 [打印本页]

作者: 子墨_ 时间: 2020-3-17 10:51
标题: 关于使用rknn toolkit及rknn模型的问题
我用的是1.3版本的rknn toolkit，转换的是tensorflow模型，然后在推理时出现了两个问题：
1、如果我在板子上运行时指定rknn.init_runtime('target = rk3399pro')，咋会直接报图中的错误，但是我如果不指定target，板子初始化环境的时间会特别久（5分钟以上），请教下大家知道这是什么原因吗？

[attach]900[/attach]

2、我的output输出的维度是和设想的一致，转换的时候也是用netron查看的输入输出节点名字，说明模型确实起到了作用，但是output的数值全是0（见下图），这一点可能会是什么原因引起的呢？

[attach]901[/attach]

作者: jefferyzhang 时间: 2020-3-17 11:02
1. 当前板子运行，target要留空
2. 加载时间久，可以尝试转换rknn模型时候加入precompile=True，详细查看文档。
3. 推理是0你要确认下全0还是中间有其他值，如果是softmax，本来就是0多。如果推理结果和PC差异比较大，就需要一层层debug看下哪层OP造成的问题。

作者: 子墨_ 时间: 2020-3-17 11:18

jefferyzhang 发表于 2020-3-17 11:02
1. 当前板子运行，target要留空
2. 加载时间久，可以尝试转换rknn模型时候加入precompile=True，详细查看文 ...

1、我如果用precompile=True，但是他会出 RKNN_ERR_MODEL_INVALID 的错误，我的drv显示是0.9.7，但是用的是rknn api1.3.0，不用的话则不会报错，不知道是不是要更新，如果需要的话应该怎样更新呢？
2、另外模型的输出结果和PC差异非常大，这个一层一层debug的话是不是要一层一层的转模型然后跑测试？但是最终也是要转成rknn模型用npu的，这样如果找出测试结果不对，在转整个模型的时候又应该怎样做才能调整呢？还有板子上有推荐可以使用的ide吗？

作者: jefferyzhang 时间: 2020-3-17 11:28
本帖最后由 jefferyzhang 于 2020-3-17 11:29 编辑

子墨_ 发表于 2020-3-17 11:18
1、我如果用precompile=True，但是他会出 RKNN_ERR_MODEL_INVALID 的错误，我的drv显示是0.9.7，但是用的 ...

你dri和rknn版本都不匹配。。。当然会出问题
更新直接看置顶的整合贴里debian10升级说明

欢迎光临 Toybrick (https://t.rock-chips.com/)