Toybrick

RK3588如何进行NPU性能测试

Meeeteor

新手上路

积分
20
发表于 2022-8-30 15:13:10    查看: 2370|回复: 0 | [复制链接]    打印 | 显示全部楼层
目前在做rknn模型性能测试,需要测试一些npu性能,在Rockchip_RKNPU_User_Guide_RKNN_API_V1.3.0_CN.pdf里有介绍如何查询npu利用率的方法:
`NPU 驱动版本在 0.7.2 之后的,可通过节点查询 NPU 的版本、NPU 不同核心的利用率:cat /sys/kernel/debug/rknpu/load`
在我的板子上运行上述命令后会报错 No such file or directory;我查看了目录/sys/kernel/debug/,确实没有rknpu文件夹,问题出在哪里呢?是NPU驱动版本低了吗,如下是我能查询到的SDK版本与驱动版本。
rknn_sdk_version version;
  ret = rknn_query(ctx, RKNN_QUERY_SDK_VERSION, &version,
                   sizeof(rknn_sdk_version));
  if (ret < 0) {
    printf("rknn_init error ret=%d\n", ret);
    return -1;
  }
  printf("sdk version: %s driver version: %s\n", version.api_version,
         version.drv_version);

这段命令在板端运行结果如下:
sdk version: 1.3.0 (c193be371@2022-05-04T20:16:33) driver version: 0.6.4


另外,我看RK3588是三核NPU,请问三个核心性能都是一样的吗?NPU进行模型的前向推理时是怎样的工作模式呢?它在一次前向推理的过程中是完全占用单个NPU核直到输出结果还是像CPU一样分时使用?
背景:手里的是ITX-3588J行业主板,是直接下载的官方地址下的公版固件 ITX-3588J_Ubuntu20.04-Gnome-r211_v0.1.0a_220424.img 然后使用驱动助手烧录;
另外就目前使用来看,模型推理、模型转换等操作都没有出现明显的问题,rknn_yolov5_demo也能在板端正常编译运行并正确检测出物体;

附件:`readme(2).png`是我最新找到的官方固件版本更新说明,在我安装的v0.1.0a版本里有提到添加了cpu、ddr变频策略,而没有npu查询使用率的策略,是否意味着目前的固件版本并不支持?

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表