模型推理遇到问题

我在使用wiki的模型推理的python程序时遇到以下问题：
E Only support ntb mode on ARM64 platform. But can not find device with ntb mode.
我在板子上模型转换是可以的，为什么推理就找不到设备了？

E Only support ntb mode on ARM64 platform
你的上位机是32bit的就不支持。

jefferyzhang 发表于 2020-5-19 09:51
E Only support ntb mode on ARM64 platform
你的上位机是32bit的就不支持。

uname -a的结果：
Linux debian10.toybrick 4.4.189 #93 SMP Tue Nov 26 16:40:07 CST 2019 aarch64 GNU/Linux
现在模型转换也不对了：
AttributeError: 'NoneType' object has no attribute 'get_input_layers'
我没更新rknn和drv之前是可以模型转换的，现在的版本是：
RKNNAPI: ==============================================
RKNNAPI: RKNN VERSION:
RKNNAPI:   API: 1.3.2 (9eebd73 build: 2020-04-02 15:30:36)
RKNNAPI:   DRV: 1.3.1 (6ebb4d7 build: 2020-01-02 09:37:58)
RKNNAPI: ==============================================

jefferyzhang 发表于 2020-5-19 09:51
E Only support ntb mode on ARM64 platform
你的上位机是32bit的就不支持。

lspci输出为空

转换脚本的verbose的log发出来，你贴个版本号有啥用。。。。

jefferyzhang 发表于 2020-5-19 10:18
转换脚本的verbose的log发出来，你贴个版本号有啥用。。。。

我重刷固件了，从最开始遇到的问题解决。刷完固件直接跑转换是可以的，跑推理遇到问题：

1. -->loading model
   
2. loading model done
   
3. --> Init runtime environment
   
4. E Using device with adb mode to init runtime, but npu_transfer_proxy is running, it may cause conflict. Please terminate npu_transfer_proxy first.
   
5. E Catch exception when init runtime!
   
6. E Traceback (most recent call last):
   
7. E   File "rknn/api/rknn_base.py", line 768, in rknn.api.rknn_base.RKNNBase.init_runtime
   
8. E   File "rknn/api/rknn_runtime.py", line 144, in rknn.api.rknn_runtime.RKNNRuntime.__init__
   
9. E   File "rknn/api/rknn_platform_utils.py", line 266, in rknn.api.rknn_platform_utils.start_ntp_or_adb
   
10. E Exception: Init runtime environment failed!
    
11. E Current device id is: None
    
12. E Devices connected:
    
13. E ['9cd15daa2683fa8f']
    
14. Init runtime environment failed

复制代码

Current device id is: None
你是跑主动还是被动模式。。。被动模式你init runtime要写连接的设备id，看下文档。

jefferyzhang 发表于 2020-5-19 11:43
Current device id is: None
你是跑主动还是被动模式。。。被动模式你init runtime要写连接的设备id，看下 ...

我把npu_transfer_proxy进程杀死以后解决上面的第一个错误，我执行adb devices结果是：
List of devices attached
9cd15daa2683fa8f        device

没有设备，lspci也没有设备，是不是npu没连上

candela4rk 发表于 2020-5-19 12:00
我把npu_transfer_proxy进程杀死以后解决上面的第一个错误，我执行adb devices结果是：
List of devices  ...

没看明白。。。
现在的错误是啥？如果init runtime说没设备，就是你的init runtime的参数没填对，可以看下文档参数说明

jefferyzhang 发表于 2020-5-19 12:02
没看明白。。。
现在的错误是啥？如果init runtime说没设备，就是你的init runtime的参数没填对，可以看 ...

好像找不到npu，有验证指令吗，我获取不到设备id......