在3399pro上的linux用python来rknn.inference,循环多几次卡死

[复制链接] · 发表于 2019-1-30 09:28:06

在3399pro上的linux用python来rknn.inference,循环多几次卡死，你们有遇到过这个问题吗？就直接用你们的demo修改的。

只看该作者 · 发表于 2019-1-30 09:43:32

代码甩出来

只看该作者 · 发表于 2019-1-30 15:57:47

import numpy as np



import re

import math

import random

import cv2

import copy

import time



from rknn.api import RKNN



INPUT_SIZE = 300



NUM_RESULTS = 1917

NUM_CLASSES = 91



Y_SCALE = 10.0

X_SCALE = 10.0

H_SCALE = 5.0

W_SCALE = 5.0





def expit(x):

    return 1. / (1. + math.exp(-x))





def load_box_priors():

    box_priors_ = []

    fp = open('./box_priors.txt', 'r')

    ls = fp.readlines()

    for s in ls:

        aList = re.findall('([-+]?\d+(\.\d*)?|\.\d+)([eE][-+]?\d+)?', s)

        for ss in aList:

            aNum = float((ss[0]+ss[2]))

            box_priors_.append(aNum)

    fp.close()



    box_priors = np.array(box_priors_)

    box_priors = box_priors.reshape(4, NUM_RESULTS)



    return box_priors





if __name__ == '__main__':



    # Create RKNN object

    rknn = RKNN()



    # Config for Model Input PreProcess

    rknn.config(channel_mean_value='128 128 128 128', reorder_channel='0 1 2')



    # Direct Load RKNN Model

    print('--> Loading model')

    rknn.load_rknn('./ssd_mobilenet_v1_coco.rknn')

    print('done')



    # Set inputs



    webcam = cv2.VideoCapture(0)



    # init runtime environment

    print('--> Init runtime environment')

    ret = rknn.init_runtime(host='rk3399pro')

    if ret != 0:

        print('Init runtime environment failed')

        exit(ret)

    print('done')



    while True:

        ref, frame = webcam.read()



        orig_img = frame

        img = copy.deepcopy(orig_img)

        img = cv2.resize(img, (INPUT_SIZE, INPUT_SIZE), interpolation=cv2.INTER_CUBIC)



        # Inference

        print('--> Running model')

        start = time.time()

        outputs = rknn.inference(inputs=[img])

        print("total time: ")

        print(time.time() - start)

        print('done')

        # print('inference result: ', outputs)



        cv2.imshow("test", orig_img)



        c= cv2.waitKey(30) & 0xff 

        if c==27:

            webcam.release()

            break



    # Release RKNN Context

    rknn.release()

复制代码

只看该作者 · 发表于 2019-1-30 15:59:23

都是你们自己的东西，我只是改成了实时显示而已，另外我转换我自己的一个模型，转换出来的预测结果和我再tensorflow里面的不一样，要从哪里下手查？或者你们能够提供技术支持不？

只看该作者 · 发表于 2019-1-31 14:56:46

rknn api 手册里有 outputs_release 每次outputs要释放，要不然的话3次之后会内存泄漏

只看该作者 · 发表于 2019-2-1 09:56:07

qiaoqiang126 发表于 2019-1-31 14:56
rknn api 手册里有 outputs_release 每次outputs要释放，要不然的话3次之后会内存泄漏 ...

我这个是python版本哦是toolkit，c版本的我知道有

只看该作者 · 发表于 2019-2-1 12:01:08

ecjon 发表于 2019-2-1 09:56
我这个是python版本哦是toolkit，c版本的我知道有

把RKNN的转换代码也贴出来，interface循环推理是可以用的，我们有个rknn_camera.py就是实时显示的。从你的代码看，推理时，rknn.config是多余的，rknn.config是转换模型时使用。
而且你设置config的参数也有问题，需要和你的模型对应上。你写的channel_mean_value='128 128 128 128'好像不太对，这个效果相当于(R-128)/128.0 (G-128)/128.0 (B-128)/128.0，输入给推理的数据就已经不正确了。

只看该作者 · 发表于 2019-2-1 12:04:43

troy 发表于 2019-2-1 12:01
把RKNN的转换代码也贴出来，interface循环推理是可以用的，我们有个rknn_camera.py就是实时显示的。从你 ...

模型什么的都是用的官方提供的ssd的demo的啊，均值也是，我只不过在官方demo里面加了个循环，你对比下官方发demo的mobilenet_ssd就知道了

只看该作者 · 发表于 2019-2-1 12:11:24

troy 发表于 2019-2-1 12:01
把RKNN的转换代码也贴出来，interface循环推理是可以用的，我们有个rknn_camera.py就是实时显示的。从你 ...

你实时的demo方便发给我参考下吗？

只看该作者 · 发表于 2019-2-1 14:43:07

ecjon 发表于 2019-2-1 12:11
你实时的demo方便发给我参考下吗？

可以参考下，RK3399Pro 中文手势识别例程的帖子，附件里面有代码