在3399pro上的linux用python来rknn.inference,循环多几次卡死

troy 发表于 2019-2-1 12:01
把RKNN的转换代码也贴出来，interface循环推理是可以用的，我们有个rknn_camera.py就是实时显示的。从你 ...

我这个代码也是照着example里改的 也是推理4次就卡死，请看下是什么问题...

1. import numpy as np
   
2. 
   
3. import re
   
4. import math
   
5. import random
   
6. import cv2
   
7. import time
   
8. 
   
9. from rknn.api import RKNN
   
10. 
    
11. INPUT_SIZE = 300
    
12. 
    
13. NUM_RESULTS = 1917
    
14. NUM_CLASSES = 91
    
15. 
    
16. Y_SCALE = 10.0
    
17. X_SCALE = 10.0
    
18. H_SCALE = 5.0
    
19. W_SCALE = 5.0
    
20. 
    
21. 
    
22. def expit(x):
    
23.     return 1. / (1. + math.exp(-x))
    
24. 
    
25. 
    
26. def load_box_priors():
    
27.     box_priors_ = []
    
28.     fp = open('./box_priors.txt', 'r')
    
29.     ls = fp.readlines()
    
30.     for s in ls:
    
31.         aList = re.findall('([-+]?\d+(\.\d*)?|\.\d+)([eE][-+]?\d+)?', s)
    
32.         for ss in aList:
    
33.             aNum = float((ss[0]+ss[2]))
    
34.             box_priors_.append(aNum)
    
35.     fp.close()
    
36. 
    
37.     box_priors = np.array(box_priors_)
    
38.     box_priors = box_priors.reshape(4, NUM_RESULTS)
    
39. 
    
40.     return box_priors
    
41. 
    
42. 
    
43. if __name__ == '__main__':
    
44. 
    
45.     # Create RKNN object
    
46.     rknn = RKNN()
    
47. 
    
48.     # Direct Load RKNN Model
    
49.     print('--> Loading model')
    
50.     rknn.load_rknn('./ssd_mobilenet_v1_coco.rknn')
    
51. 
    
52. 
    
53.     # init runtime environment
    
54.     print('--> Init runtime environment')
    
55.     ret = rknn.init_runtime(host='rk3399pro')
    
56.     if ret != 0:
    
57.         print('Init runtime environment failed')
    
58.         exit(ret)
    
59.     print('done')
    
60. 
    
61.     print('--> Running model')
    
62.    
    
63.     webcam = cv2.VideoCapture(0)
    
64. 
    
65.     while True:
    
66.         startTime = time.time()
    
67.         # Set inputs
    
68.         ret, orig_img = webcam.read()
    
69.         if ret == True:
    
70.             img = cv2.cvtColor(orig_img, cv2.COLOR_BGR2RGB)
    
71.             img = cv2.resize(img, (INPUT_SIZE, INPUT_SIZE), interpolation=cv2.INTER_CUBIC)
    
72.    
    
73.             # Inference
    
74.             outputs = rknn.inference(inputs=[img])
    
75.             print('done')
    
76.             
    
77.             predictions = outputs[1].reshape((1, NUM_RESULTS, 4))
    
78.             outputClasses = outputs[0].reshape((1, NUM_RESULTS, NUM_CLASSES))
    
79. 
    
80.             box_priors = load_box_priors()
    
81. 
    
82.             # Post Process
    
83.             for i in range(0, NUM_RESULTS):
    
84.                 ycenter = predictions[0][i][0] / Y_SCALE * box_priors[2][i] + box_priors[0][i]
    
85.                 xcenter = predictions[0][i][1] / X_SCALE * box_priors[3][i] + box_priors[1][i]
    
86.                 h = math.exp(predictions[0][i][2] / H_SCALE) * box_priors[2][i]
    
87.                 w = math.exp(predictions[0][i][3] / W_SCALE) * box_priors[3][i]
    
88. 
    
89.                 ymin = ycenter - h / 2.
    
90.                 xmin = xcenter - w / 2.
    
91.                 ymax = ycenter + h / 2.
    
92.                 xmax = xcenter + w / 2.
    
93. 
    
94.                 predictions[0][i][0] = ymin
    
95.                 predictions[0][i][1] = xmin
    
96.                 predictions[0][i][2] = ymax
    
97.                 predictions[0][i][3] = xmax
    
98. 
    
99.                 topClassScore = -1000
    
100.                 topClassScoreIndex = -1
     
101. 
     
102.                 # Skip the first catch-all class.
     
103.                 for j in range(1, NUM_CLASSES):
     
104.                     score = expit(outputClasses[0][i][j])
     
105. 
     
106.                     if score > topClassScore:
     
107.                         topClassScoreIndex = j
     
108.                         topClassScore = score
     
109.                     if topClassScore > 0.4:
     
110.                         detection = (
     
111.                             predictions[0][i][1] * INPUT_SIZE,
     
112.                             predictions[0][i][0] * INPUT_SIZE,
     
113.                             predictions[0][i][3] * INPUT_SIZE,
     
114.                             predictions[0][i][2] * INPUT_SIZE)
     
115.                         xmin = detection[0]
     
116.                         ymin = detection[1]
     
117.                         xmax = detection[2]
     
118.                         ymax = detection[3]
     
119.                         # print("%d @ (%d, %d) (%d, %d) score=%f" % (topClassScoreIndex, xmin, ymin, xmax, ymax, topClassScore))
     
120.                         cv2.rectangle(orig_img, (int(xmin), int(ymin)), (int(xmax), int(ymax)),
     
121.                                       (random.random()*255, random.random()*255, random.random()*255), 3)
     
122. 
     
123.             print(time.time() - startTime)
     
124.             cv2.imshow('ssd-mobilenet',orig_img)
     
125.          
     
126.         if cv2.waitKey(1) == ord('q'):
     
127.             webcam.release()
     
128.             rknn.release()
     
129.             break
     

复制代码

楼主后来解决这个问题了吗

karbon 发表于 2019-2-9 19:05
楼主后来解决这个问题了吗

还没解决

可以更新rknn-toolkit的新版本试试，旧版本好像有这个bug

yhc 发表于 2019-2-13 15:56
可以更新rknn-toolkit的新版本试试，旧版本好像有这个bug

I have the same problem and I'm running v0.9.7. Where can I find the latest version? Thanks.

slim 发表于 2019-2-14 07:47
I have the same problem and I'm running v0.9.7. Where can I find the latest version? Thanks.

链接: https://pan.baidu.com/s/1ypkndmI7P62W8DWf0AW5ew 提取码: qhhy