反复验证,python接口的rknn不支持多线程

[复制链接] · 发表于 2019-6-1 02:49:27

rknn 0.99 以及 rknn1.0 都尝试了, 单线程跑推断没任何问题,只要多线程去推断则会卡死.

那样只能把推断和后处理分线程跑,但是多个模型就只能级联不能并行了,请问这是python接口的Bug吗?

只看该作者 · 发表于 2019-6-1 02:52:35

本帖最后由 xiaqing10 于 2019-6-1 02:53 编辑

附上简单的测试代码

import numpy as np

import re

import math

import random

import cv2

import threading

import time



import logging



logging.basicConfig(filename='log.log',level=logging.INFO,format='%(asctime)s %(message)s',

 datefmt='%m/%d/%Y %I:%M:%S %p')



from rknn.api import RKNN



INPUT_SIZE = 224

INPUT_POSE = 224





def model1():



    rknn = RKNN()

    rknn.load_rknn('./model.rknn')



    rknn.init_runtime()



    img = cv2.imread("test1.jpg")

    



    while True:



        time.sleep(1)

        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)

        img = cv2.resize(img, (INPUT_SIZE, INPUT_SIZE), interpolation=cv2.INTER_CUBIC)

        logging.info('--> Running  age model')

        [outputs] = rknn.inference(inputs=[img])

        logging.info('age inference len result: '+ str(outputs))

        logging.info('age inference len result: ')



def model2():



    rknn = RKNN()

    rknn.load_rknn('./model.rknn')

    rknn.init_runtime()



    img = cv2.imread("test2.jpg")



    while True:

        time.sleep(1)



        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)

        img = cv2.resize(img, (INPUT_POSE, INPUT_POSE), interpolation=cv2.INTER_CUBIC)

        logging.info('--> Running  pose model')

        [outputs] = rknn.inference(inputs=[img])

        logging.info('pose inference len result: '+ str( outputs))

        logging.info('pose inference len result: ')





def thread1():



    logging.info("start to run age thread")

    t = threading.Thread( target = model1)

    t.start()



def thread2():



    logging.info("start to run pose thread")

    s = threading.Thread( target = model2)

    s.start()



if __name__ == '__main__':





    thread1()

    thread2()



    while True:

       

        time.sleep(1)

        logging.info("XXXXX")

     

复制代码

代码

只看该作者 · 发表于 2019-6-6 11:52:20

xiaqing10 发表于 2019-6-1 02:52
附上简单的测试代码代码

inference卡住是当前版本的一个bug，后续版本会修复。
多谢反馈！