Toybrick

标题: rk3399不支持toolkit相关的功能吗？ [打印本页]

作者: kk25885 时间: 2020-2-20 16:44
标题: rk3399不支持toolkit相关的功能吗？
Toybrick Wiki-d
http://t.rock-chips.com/wiki.php?mod=view&id=36
按照教程做了一遍，最后rknn模型也生成了，在推理的时候报这个错误
-->loading model
loading model done
--> Init runtime environment
E Connect to Device Failure (-1)
E Catch exception when init runtime!
T Traceback (most recent call last):
T File "rknn/api/rknn_base.py", line 643, in rknn.api.rknn_base.RKNNBase.init_runtime
T File "rknn/api/rknn_runtime.py", line 130, in rknn.api.rknn_runtime.RKNNRuntime.__init__
T File "rknn/api/rknn_platform_utils.py", line 269, in rknn.api.rknn_platform_utils.start_ntp_or_adb
T Exception: Init runtime environment failed!

板子：rk3399
系统：ubuntu16
软件：rknn-toolkit：1.1.0 ，tensorflow：1.4.0rc0
请问如何是好？
我正在做yolo的人流系统

作者: jefferyzhang 时间: 2020-2-20 16:49
rk3399没有NPU，无法推理。你要买个计算棒插上去

作者: kk25885 时间: 2020-2-20 16:57
你好，那我想问下，我如何进行加速推理呢？现在纯cpu tf已经装好了，但是速度太慢了！

作者: kk25885 时间: 2020-2-20 17:07

jefferyzhang 发表于 2020-2-20 16:49
rk3399没有NPU，无法推理。你要买个计算棒插上去

你好，那我想问下，我如何进行加速推理呢？现在纯cpu tf已经装好了，但是速度太慢了！

作者: kk25885 时间: 2020-2-20 17:15

hisping 发表于 2020-2-20 17:09
rk3399没有NPU，所以不能加速的；你可以使用rk3399pro，rk3399pro内部有NPU可以加速；或者你可以购买rk18 ...

这个我明白，但是这样成本就上来了，我想看看基于rk3399本身，推理自己训练的模型，速度能到多少。
因为了解的不够透彻，所以入错了板

作者: kk25885 时间: 2020-2-20 17:24
然后我还有几个问题一直很困惑，希望得到解答，非常感谢管理员！
1.因为之前我第一次买的是3288.，后来装到一般我发现3288是32bit，那就代表没法装tf了。（那么我想问3288没法装tf，貌似pytorch也不行，那么3288这块板子在人工智能/深度学习领域还能有哪些作用吗？百思不得其解）
2.那么我后面又入了3399，那么3399是顺利把项目work起来了，但是发现fps太慢，目前只有2fps，所以搜了下弄了toolkit（这个能加速推理），但是却发现toolkit不支持3399.。。。。。。那么我又有个疑问，（3399没法用加速器顺利把网络推理起来，那么貌似在深度学习领域也没啥用啊？）

我的语言目前使用的是python

作者: kk25885 时间: 2020-2-20 17:29
难道说3288和3399的加速器，只能通过cpp进行加速推理？？

作者: jefferyzhang 时间: 2020-2-20 17:31

kk25885 发表于 2020-2-20 17:29
难道说3288和3399的加速器，只能通过cpp进行加速推理？？

是啊，不然呢？你装个tf也是跑cpu啊。。

作者: kk25885 时间: 2020-2-20 17:39

jefferyzhang 发表于 2020-2-20 17:31
是啊，不然呢？你装个tf也是跑cpu啊。。

那3399的gpu，基于板子本身，没法加速推理网络吗？无论是py还是cpp

作者: kk25885 时间: 2020-2-20 17:40

hisping 发表于 2020-2-20 17:38
1.RKNN-toolkit加速是针对有NPU的芯片，目前RK的芯片只有rk3399pro,rk1808带有NPU，也就是说能使用RKNN-t ...

要么使用ARM NN调用GPU加速,请问这个怎么做，有资料指引一下吗？感谢

作者: kk25885 时间: 2020-2-20 17:57

hisping 发表于 2020-2-20 17:45
先百度下ARM NN，另外论坛也有其他人问ARM NN的问题，你可以看下http://t.rock-chips.com/forum.php?mod= ...

好的，我想补充一个问题，通常来说，就是3399带1808速度快一点还是直接3399pro速度快一点？（同一个模型下）

作者: kk25885 时间: 2020-2-20 19:15

hisping 发表于 2020-2-20 18:08
3399pro速度会比3399+1808稍微快一点点

我再多问一个，就是jetson nano和3399+1808 和 3399pro速度比起来慢多少？同一个模型？感谢了

作者: kk25885 时间: 2020-2-21 13:52

hisping 发表于 2020-2-20 18:08
3399pro速度会比3399+1808稍微快一点点

管理员好，我换一个问题吧，就是rk1808除了放在3288和3399上，还可不可以用在其他的硬件上？例如x86的win/linux/mac？我最近确实也要购买一个加速棒，想看看需求匹配度

欢迎光临 Toybrick (https://t.rock-chips.com/)