2.0.0无法运行模型

rt，运行后会报错
rknn_outputs_get,  p_ctx->queue_output.size() = 0!
求大佬帮我看看怎么解决

错误日志

E RKNNAPI: Catch runtime Crash! Stack backtrace:
Segmentation Fault
  # 0: 0x5e5298c38c  
  # 1: 0x5e5298f408  
  # 2: 0x72ccade5ec  __kernel_rt_sigreturn

E RKNNAPI: rknn_outputs_get,  p_ctx->queue_output.size() = 0!
E inference: Traceback (most recent call last):
  File "rknn/api/rknn_log.py", line 309, in rknn.api.rknn_log.error_catch_decorator.error_catch_wrapper
  File "rknn/api/rknn_base.py", line 2589, in rknn.api.rknn_base.RKNNBase.inference
  File "rknn/api/rknn_runtime.py", line 554, in rknn.api.rknn_runtime.RKNNRuntime.get_outputs
Exception: E Get outputs failed, error code: RKNN_ERR_FAIL


模型
看附件

代码

1. import os
   
2. import urllib
   
3. import traceback
   
4. import time
   
5. import sys
   
6. import numpy as np
   
7. import cv2
   
8. import torch
   
9. from rknn.api import RKNN
   
10. from blazefacenumpy import BlazeFace
    
11. ONNX_MODEL = 'best.onnx' # onnx 模型的路径
    
12. ONNX_MODEL = 'rppg_new.onnx' # onnx 模型的路径
    
13. ONNX_MODEL = 'blazeface128.onnx' # onnx 模型的路径
    
14. # ONNX_MODEL = 'v3.onnx' # onnx 模型的路径
    
15. # ONNX_MODEL = 'alexnet.onnx' # onnx 模型的路径
    
16. TFLITE_MODEL = 'face_detection_front.tflite'
    
17. # TFLITE_MODEL = 'alexnet_float32.tflite'
    
18. 
    
19. # /anaconda/envs/horizon_bpu/lib/python3.8/site-packages/rknn/3rdparty/platform-tools/adb/linux-x86_64
    
20. # tcpip
    
21. 
    
22. RKNN_MODEL = './yolov8-ghost-pose.rknn'  # 转换后的 RKNN 模型保存路径
    
23. RKNN_MODEL = './bz128_3568.rknn'  # 转换后的 RKNN 模型保存路径
    
24. # RKNN_MODEL = './facenet——3568.rknn'  # 转换后的 RKNN 模型保存路径
    
25. RKNN_MODEL = './pfldv3.rknn'  # 转换后的 RKNN 模型保存路径
    
26. DATASET = './test.txt'   # 数据集文件路径
    
27. 
    
28. QUANTIZE_ON = False   # 是否进行量化
    
29. 
    
30. 
    
31. def plot_detections(img, detections):
    
32. 
    
33. 
    
34.     if isinstance(detections, torch.Tensor):
    
35.         detections = detections.cpu().numpy()
    
36. 
    
37. 
    
38. 
    
39.     # if detections.ndim == 1:
    
40.     #     detections = np.expand_dims(detections, axis=0)
    
41. 
    
42.     # print("Found %d faces" % detections.shape[0])
    
43.         
    
44.     for i in range(detections.shape[0]):
    
45.         ymin = int(detections[i, 0] * img.shape[0])
    
46.         xmin = int(detections[i, 1] * img.shape[1])
    
47.         ymax = int(detections[i, 2] * img.shape[0])
    
48.         xmax = int(detections[i, 3] * img.shape[1])
    
49. 
    
50.         cv2.rectangle(img,(xmin,ymin),(xmax,ymax),(170,234,242),5,lineType=cv2.LINE_AA)
    
51.    
    
52.         # if with_keypoints:
    
53.         #     for k in range(6):
    
54.         #         kp_x = detections[i, 4 + k*2    ] * img.shape[1]
    
55.         #         kp_y = detections[i, 4 + k*2 + 1] * img.shape[0]
    
56.         #         circle = patches.Circle((kp_x, kp_y), radius=0.5, linewidth=1,
    
57.         #                                 edgecolor="lightskyblue", facecolor="none",
    
58.         #                                 alpha=detections[i, 16])
    
59.         #         ax.add_patch(circle)
    
60. 
    
61. 
    
62. if __name__ == '__main__':
    
63. 
    
64.         # 创建 RKNN 对象
    
65.         rknn = RKNN(verbose=False)
    
66. 
    
67.     # 检查 ONNX 模型文件是否存在
    
68.         if not os.path.exists(ONNX_MODEL):
    
69.                 print('model not exist')
    
70.                 exit(-1)
    
71. 
    
72.         # 配置模型预处理参数
    
73.         print('--> Config model')
    
74.         rknn.config(#reorder_channel='0 1 2', # 表示 RGB 通道
    
75.                                 
    
76.                             mean_values=[[0, 0, 0]], # 每个通道的像素均值，预处理时对应通道减去该值
    
77.                             std_values=[[255, 255, 255]], # 每个通道的像素标准差，每个通道除以该值
    
78.                             optimization_level=3, # 优化级别
    
79.                                 quantized_method='layer',
    
80.                                 float_dtype="float16",
    
81.                             target_platform = 'RK3568', #指定目标平台为rv1126
    
82.                                 # quantize_input_node=QUANTIZE_ON
    
83.                                 )  # 对时输入节点进行量化
    
84. 
    
85. 
    
86.         # 加载 ONNX 模型
    
87.         # print('--> Loading model')
    
88.         model = rknn.load_rknn(RKNN_MODEL)
    
89.         ret = rknn.init_runtime(target="rk3568")
    
90.         print("start")
    
91.         frame = cv2.imread('./test.jpg')
    
92.         frame =cv2.resize(frame,(112,112))
    
93.    
    
94. 
    
95.         back_net = BlazeFace(back_model=False).to("cpu")
    
96. 
    
97.       
    
98.         input = np.reshape(frame,-1)
    
99.    
    
100.         
     
101. 
     
102.         pred = rknn.inference(inputs=[input], data_format='nhwc')
     
103. 
     
104.         kk1 = np.reshape( pred[1],-1)[222:225]
     
105.         print(pred[1].astype(np.float16))
     
106.         kk =np.reshape( pred[0],-1)[2::10].astype(np.int16)
     
107.         print('pred')
     
108. 
     
109.         # print('bz load')
     
110.         # back_net.load_anchors("anchors.npy")
     
111. 
     
112.         # deback = back_net._tensors_to_detections(raw_box_tensor=pred[0],raw_score_tensor=pred[1],anchors=back_net.anchors)
     
113. 
     
114.     # # 4. Non-maximum suppression to remove overlapping detections:
     
115.         # filtered_detections = []
     
116.         # for i in range(len(deback)):
     
117.         #         faces = back_net._weighted_non_max_suppression(deback[i])
     
118.                
     
119.         #         faces = np.stack(faces) if len(faces) > 0 else np.zeros((0, 17))
     
120.         #         filtered_detections.append(faces)
     
121.         # plot_detections(frame,filtered_detections[0])
     
122. 
     
123.         # cv2.imwrite('test_out.jpg',frame)
     
124. 
     
125.    
     
126. 
     

复制代码

新发现：rknn不支持Linear层，会报错，有什么好的解决方法吗？