Toybrick

标题: RK3588如何进行NPU性能测试 [打印本页]

作者: Meeeteor 时间: 2022-8-30 15:13
标题: RK3588如何进行NPU性能测试
目前在做rknn模型性能测试，需要测试一些npu性能，在Rockchip_RKNPU_User_Guide_RKNN_API_V1.3.0_CN.pdf里有介绍如何查询npu利用率的方法：
`NPU 驱动版本在 0.7.2 之后的，可通过节点查询 NPU 的版本、NPU 不同核心的利用率：cat /sys/kernel/debug/rknpu/load`
在我的板子上运行上述命令后会报错 No such file or directory；我查看了目录/sys/kernel/debug/，确实没有rknpu文件夹，问题出在哪里呢？是NPU驱动版本低了吗，如下是我能查询到的SDK版本与驱动版本。
rknn_sdk_version version;
  ret = rknn_query(ctx, RKNN_QUERY_SDK_VERSION, &version,
               sizeof(rknn_sdk_version));
  if (ret < 0) {
printf("rknn_init error ret=%d\n", ret);
return -1;
  }
  printf("sdk version: %s driver version: %s\n", version.api_version,
      version.drv_version);

这段命令在板端运行结果如下：
sdk version: 1.3.0 (c193be371@2022-05-04T20:16:33) driver version: 0.6.4

另外，我看RK3588是三核NPU，请问三个核心性能都是一样的吗？NPU进行模型的前向推理时是怎样的工作模式呢？它在一次前向推理的过程中是完全占用单个NPU核直到输出结果还是像CPU一样分时使用？
背景：手里的是ITX-3588J行业主板，是直接下载的官方地址下的公版固件 ITX-3588J_Ubuntu20.04-Gnome-r211_v0.1.0a_220424.img 然后使用驱动助手烧录；
另外就目前使用来看，模型推理、模型转换等操作都没有出现明显的问题，rknn_yolov5_demo也能在板端正常编译运行并正确检测出物体；
附件：`readme(2).png`是我最新找到的官方固件版本更新说明，在我安装的v0.1.0a版本里有提到添加了cpu、ddr变频策略，而没有npu查询使用率的策略，是否意味着目前的固件版本并不支持？

欢迎光临 Toybrick (https://t.rock-chips.com/)