Yolov5s模型rknn測試都沒問題 ,但是無法使用TB-RK1808S0加速

[复制链接] · 发表于 2021-9-13 09:09:37

本帖最后由 Stuart 于 2021-9-13 09:56 编辑

yolov5使用的训练代码取自ultralytics/yolov5 master分支。
环境：PC ubuntu18.04 x86_64
rknn_tool v1.7.0

python3.6.9环境
tensorflow-gpu==1.14.0
torch==1.2.0
onnx==1.6
torchvision == 0.4.0

插入TB-RK1808S0
lsusb => Bus 001 Device 003: ID 2207:0018
npu_transfer_proxy devices=>
TS018082190800193 b2668d97 USB_DEVICE

使用下面code 進行onnx轉rknn 並測試圖片,都沒有問題, 可以產生rknn 並預測圖片
https://github.com/rockchip-linu ... xamples/onnx/yolov5

使用https://github.com/soloIife/yolo ... rknn_detect_yolov5. 測試需要時間
1.設定ret = rknn.init_runtime()
pred_onx = self._rknn.inference(inputs=[_img])
時間需要253s
2.設定ret = rknn.init_runtime(device_id='TB-RK1808S0')
pred_onx = self._rknn.inference(inputs=[_img])
時間還是需要253s
3.設定ret = rknn.init_runtime(device_id='TS018082190800193')
pred_onx = self._rknn.inference(inputs=[_img])
時間還是需要253s

4.設定ret = rknn.init_runtime(target='rk1808', device_id='TS018082190800193')
出現錯誤訊息
I NPUTransfer: Starting NPU Transfer Client, Transfer version 2.1.0 (b5861e7@2020-11-23T11:50:36)
E RKNNAPI: rknn_init, msg_load_ack fail, ack = 1(ACK_FAIL), expect 0(ACK_SUCC)!
E RKNNAPI: ==============================================
E RKNNAPI: RKNN VERSION:
E RKNNAPI: API: 1.7.0 (f75fb8e build: 2021-07-20 16:23:11)
E RKNNAPI: DRV: 1.3.2 (f113d64 build: 2020-04-23 09:35:26)
E RKNNAPI: ==============================================
E Catch exception when init runtime!
E Traceback (most recent call last):
E File "rknn/api/rknn_base.py", line 884, in rknn.api.rknn_base.RKNNBase.init_runtime
E File "rknn/api/rknn_runtime.py", line 341, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
E Exception: RKNN init failed. error code: RKNN_ERR_MODEL_INVALID
E Current device id is: TS018082190800193
E Devices connected:
E ['TS018082190800193']
nit runtime environment failed

請問要如何使用RK1808進行加速?
或是怎麼驗證RK1808已經掛載?
謝謝

只看该作者 · 发表于 2021-9-13 09:15:49

補充說明一下
TB-RK1808S0 已經更新固件
RKNN Version 1.3.2
rootfs Base Version 1.5.0

只看该作者 · 发表于 2021-9-13 11:39:43

rknn.init_runtime 的 target 参数哪里去了？

只看该作者 · 发表于 2021-9-13 11:57:04

只要加入 target='rk1808' 就會出現同上面一樣的error

只看该作者 · 发表于 2021-9-13 12:03:35

DRV: 1.3.2 (f113d64 build: 2020-04-23 09:35:26)
这个版本也不对，正常应该是1.6.1

只看该作者 · 发表于 2021-9-13 13:55:33

我是固件在线升级的
一个方式是通过web登录计算棒的网页http://192.168.180.8, 在Update页面上点击Update按钮进行升级；
在update頁面上有顯示update successfully!
在Home頁面也是顯示RKNN Version 1.3.2