混合量化去掉几层后报错

混合量化第一步完成后，对cfg文件不做修改直接运行第二步，得到的模型能正常调用和推理。
cfg文件去掉几层后，再运行混合量化第二步，得到的模型能正常调用和推理。
cfg文件再去掉几层，再运行混合量化第二步，得到的模型不能正常调用，错误信息如下。

1. Create RKNN model fail!
   
2. E Catch exception when init runtime!
   
3. E Traceback (most recent call last):
   
4. E   File "rknn/api/rknn_base.py", line 788, in rknn.api.rknn_base.RKNNBase.init_runtime
   
5. E   File "rknn/api/rknn_runtime.py", line 303, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
   
6. E Exception: RKNN init failed. error code: RKNN_ERR_DEVICE_UNAVAILABLE
   
7. W We need do some initial work, it will increase call time of inference for the first time.
   
8. Create RKNN model fail!
   
9. E Catch exception when init model!
   
10. E Traceback (most recent call last):
    
11. E   File "rknn/api/rknn_base.py", line 901, in rknn.api.rknn_base.RKNNBase.inference
    
12. E   File "rknn/api/rknn_runtime.py", line 303, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
    
13. E Exception: RKNN init failed. error code: RKNN_ERR_DEVICE_UNAVAILABLE
    
14. Traceback (most recent call last):
    
15.   File "ctdet.py", line 10, in <module>
    
16.     det.run(img)
    
17.   File "/home/lsc/rknn-toolkit-v1.3.0/centernet/ctdet_rknn_v2/detector.py", line 93, in run
    
18.     output, dets = self.process(images)
    
19.   File "/home/lsc/rknn-toolkit-v1.3.0/centernet/ctdet_rknn_v2/detector.py", line 44, in process
    
20.     hm = output[3].reshape((1,80,128,128))
    
21. TypeError: 'NoneType' object is not subscriptable
    

复制代码

自己顶一下

混合量化我们一般推荐用可视化工具来实现，自己删掉一些层容易出错。但也不排除工具/驱动存在BUG。

zht 发表于 2020-1-10 09:03
混合量化我们一般推荐用可视化工具来实现，自己删掉一些层容易出错。但也不排除工具/驱动存在BUG。 ...

谢谢了，
好像是cat或add层左右分支类型不一样就会报错。