Toybrick

标题: 为啥同一个模型，在rk3588跑推理速度竞然远远大于在RK3399ProD? [打印本页]
作者: mike841211    时间: 2023-3-17 21:06
标题: 为啥同一个模型，在rk3588跑推理速度竞然远远大于在RK3399ProD?
本帖最后由 mike841211 于 2023-3-17 21:08 编辑

测试环境：
rk3588 ubuntu20.04
rk3399ProD Debian
模型: yolox=>rknn
rk3588 ，200个循环，推理平均速度要200ms左右

rk3399ProD 推理速度：200个循环，平均80ms左右，不科学呀？请问这是啥问题？


代码如下：rknn_model = RK3388_RKNN_MODEL
    rknn_lite = RKNNLite()

    # load RKNN model
    print('--> Load RKNN model')
    ret = rknn_lite.load_rknn(rknn_model)

  1.     ori_img = cv2.imread('./street.jpg')
  2.     img = cv2.cvtColor(ori_img, cv2.COLOR_BGR2RGB)
  3.     #ret = rknn_lite.init_runtime()
  4.     #ret = rknn_lite.init_runtime(core_mask=RKNNLite.NPU_CORE_0)
  5.     ret = rknn_lite.init_runtime(core_mask=RKNNLite.NPU_CORE_AUTO)
  6.     img, scale_factor, correction = letterbox(img)
  7.     # Inference
  8.     print('--> Running model')
  9.     for i in range(200):
  10.         start = time.perf_counter()
  11.         outputs = rknn_lite.inference(inputs=[img])
  12.         #outputs =  rknn_lite.inference(inputs=[img], data_format="nchw")[0]
  13.         end = time.perf_counter()
  14.         print('运行时间为：{}秒'.format(end - start))
  15.    
  16.     print('done')

  18.     rknn_lite.release()
复制代码







欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3