Toybrick

标题: 混合量化去掉几层后报错 [打印本页]
作者: LSC    时间: 2020-1-7 15:19
标题: 混合量化去掉几层后报错
混合量化第一步完成后，对cfg文件不做修改直接运行第二步，得到的模型能正常调用和推理。
cfg文件去掉几层后，再运行混合量化第二步，得到的模型能正常调用和推理。
cfg文件再去掉几层，再运行混合量化第二步，得到的模型不能正常调用，错误信息如下。
  1. Create RKNN model fail!
  2. E Catch exception when init runtime!
  3. E Traceback (most recent call last):
  4. E   File "rknn/api/rknn_base.py", line 788, in rknn.api.rknn_base.RKNNBase.init_runtime
  5. E   File "rknn/api/rknn_runtime.py", line 303, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
  6. E Exception: RKNN init failed. error code: RKNN_ERR_DEVICE_UNAVAILABLE
  7. W We need do some initial work, it will increase call time of inference for the first time.
  8. Create RKNN model fail!
  9. E Catch exception when init model!
  10. E Traceback (most recent call last):
  11. E   File "rknn/api/rknn_base.py", line 901, in rknn.api.rknn_base.RKNNBase.inference
  12. E   File "rknn/api/rknn_runtime.py", line 303, in rknn.api.rknn_runtime.RKNNRuntime.build_graph
  13. E Exception: RKNN init failed. error code: RKNN_ERR_DEVICE_UNAVAILABLE
  14. Traceback (most recent call last):
  15.   File "ctdet.py", line 10, in <module>
  16.     det.run(img)
  17.   File "/home/lsc/rknn-toolkit-v1.3.0/centernet/ctdet_rknn_v2/detector.py", line 93, in run
  18.     output, dets = self.process(images)
  19.   File "/home/lsc/rknn-toolkit-v1.3.0/centernet/ctdet_rknn_v2/detector.py", line 44, in process
  20.     hm = output[3].reshape((1,80,128,128))
  21. TypeError: 'NoneType' object is not subscriptable
复制代码



作者: LSC    时间: 2020-1-9 13:20
自己顶一下
作者: zht    时间: 2020-1-10 09:03
混合量化我们一般推荐用可视化工具来实现，自己删掉一些层容易出错。但也不排除工具/驱动存在BUG。
作者: LSC    时间: 2020-1-10 15:35
zht 发表于 2020-1-10 09:03
混合量化我们一般推荐用可视化工具来实现，自己删掉一些层容易出错。但也不排除工具/驱动存在BUG。 ...

谢谢了，
好像是cat或add层左右分支类型不一样就会报错。



欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3