Toybrick

为啥同一个模型,在rk3588跑推理速度竞然远远大于在RK3399ProD?

mike841211

注册会员

积分
69
发表于 2023-3-17 21:06:55    查看: 1465|回复: 0 | [复制链接]    打印 | 显示全部楼层
本帖最后由 mike841211 于 2023-3-17 21:08 编辑

测试环境:
rk3588 ubuntu20.04
rk3399ProD Debian
模型: yolox=>rknn
rk3588 ,200个循环,推理平均速度要200ms左右

rk3399ProD 推理速度:200个循环,平均80ms左右,不科学呀?请问这是啥问题?


代码如下:rknn_model = RK3388_RKNN_MODEL
    rknn_lite = RKNNLite()

    # load RKNN model
    print('--> Load RKNN model')
    ret = rknn_lite.load_rknn(rknn_model)

  1.     ori_img = cv2.imread('./street.jpg')
  2.     img = cv2.cvtColor(ori_img, cv2.COLOR_BGR2RGB)
  3.     #ret = rknn_lite.init_runtime()
  4.     #ret = rknn_lite.init_runtime(core_mask=RKNNLite.NPU_CORE_0)
  5.     ret = rknn_lite.init_runtime(core_mask=RKNNLite.NPU_CORE_AUTO)
  6.     img, scale_factor, correction = letterbox(img)
  7.     # Inference
  8.     print('--> Running model')
  9.     for i in range(200):
  10.         start = time.perf_counter()
  11.         outputs = rknn_lite.inference(inputs=[img])
  12.         #outputs =  rknn_lite.inference(inputs=[img], data_format="nchw")[0]
  13.         end = time.perf_counter()
  14.         print('运行时间为:{}秒'.format(end - start))
  15.    
  16.     print('done')

  17.     rknn_lite.release()
复制代码




回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表