Toybrick

rk3399不支持toolkit相关的功能吗?

kk25885

新手上路

积分
33
楼主
发表于 2020-2-20 16:44:21    查看: 29424|回复: 12 | [复制链接]    打印 | 只看该作者
Toybrick Wiki-d
http://t.rock-chips.com/wiki.php?mod=view&id=36
按照教程做了一遍,最后rknn模型也生成了,在推理的时候报这个错误
-->loading model
loading model done
--> Init runtime environment
E Connect to Device Failure (-1)
E Catch exception when init runtime!
T Traceback (most recent call last):
T   File "rknn/api/rknn_base.py", line 643, in rknn.api.rknn_base.RKNNBase.init_runtime
T   File "rknn/api/rknn_runtime.py", line 130, in rknn.api.rknn_runtime.RKNNRuntime.__init__
T   File "rknn/api/rknn_platform_utils.py", line 269, in rknn.api.rknn_platform_utils.start_ntp_or_adb
T Exception: Init runtime environment failed!

板子:rk3399
系统:ubuntu16
软件:rknn-toolkit:1.1.0 ,tensorflow:1.4.0rc0
请问如何是好?
我正在做yolo的人流系统

回复

使用道具 举报

jefferyzhang

版主

积分
13578
沙发
发表于 2020-2-20 16:49:24 | 只看该作者
rk3399没有NPU,无法推理。你要买个计算棒插上去
回复

使用道具 举报

kk25885

新手上路

积分
33
板凳
 楼主| 发表于 2020-2-20 16:57:25 | 只看该作者
你好,那我想问下,我如何进行加速推理呢?现在纯cpu tf已经装好了,但是速度太慢了!
回复

使用道具 举报

kk25885

新手上路

积分
33
地板
 楼主| 发表于 2020-2-20 17:07:22 | 只看该作者
jefferyzhang 发表于 2020-2-20 16:49
rk3399没有NPU,无法推理。你要买个计算棒插上去

你好,那我想问下,我如何进行加速推理呢?现在纯cpu tf已经装好了,但是速度太慢了!
回复

使用道具 举报

kk25885

新手上路

积分
33
5#
 楼主| 发表于 2020-2-20 17:15:07 | 只看该作者
hisping 发表于 2020-2-20 17:09
rk3399没有NPU,所以不能加速的;你可以使用rk3399pro,rk3399pro内部有NPU可以加速;或者你可以购买rk18 ...

这个我 明白,但是这样成本就上来了,我想看看基于rk3399本身,推理自己训练的模型,速度能到多少。
因为了解的不够透彻,所以入错了板
回复

使用道具 举报

kk25885

新手上路

积分
33
6#
 楼主| 发表于 2020-2-20 17:24:42 | 只看该作者
然后我还有几个问题一直很困惑,希望得到解答,非常感谢管理员!
1.因为之前我第一次买的是3288.,后来装到一般我发现3288是32bit,那就代表没法装tf了。(那么我想问3288没法装tf,貌似pytorch也不行,那么3288这块板子在人工智能/深度学习领域还能有哪些作用吗?百思不得其解)
2.那么我后面又入了3399,那么3399是顺利把项目work起来了,但是发现fps太慢,目前只有2fps,所以搜了下弄了toolkit(这个能加速推理),但是却发现toolkit不支持3399.。。。。。。那么我又有个疑问,(3399没法用加速器顺利把网络推理起来,那么貌似在深度学习领域也没啥用啊?)



我的语言目前使用的是python
回复

使用道具 举报

kk25885

新手上路

积分
33
7#
 楼主| 发表于 2020-2-20 17:29:00 | 只看该作者
难道说3288和3399的加速器,只能通过cpp进行加速推理??
回复

使用道具 举报

jefferyzhang

版主

积分
13578
8#
发表于 2020-2-20 17:31:43 | 只看该作者
kk25885 发表于 2020-2-20 17:29
难道说3288和3399的加速器,只能通过cpp进行加速推理??

是啊,不然呢?你装个tf也是跑cpu啊。。
回复

使用道具 举报

kk25885

新手上路

积分
33
9#
 楼主| 发表于 2020-2-20 17:39:55 | 只看该作者
jefferyzhang 发表于 2020-2-20 17:31
是啊,不然呢?你装个tf也是跑cpu啊。。

那3399的gpu,基于板子本身,没法加速推理网络吗?无论是py还是cpp
回复

使用道具 举报

kk25885

新手上路

积分
33
10#
 楼主| 发表于 2020-2-20 17:40:45 | 只看该作者
hisping 发表于 2020-2-20 17:38
1.RKNN-toolkit加速是针对有NPU的芯片,目前RK的芯片只有rk3399pro,rk1808带有NPU,也就是说能使用RKNN-t ...

要么使用ARM NN调用GPU加速,请问这个怎么做,有资料指引一下吗?感谢
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表