3399Pro如何查看npu使用情况

[复制链接] · 发表于 2023-9-25 10:07:07

使用C++进行模型推理期间，请问有什么命令可以查看npu的使用情况，在网上搜了一圈3588上好像可以通过cat /sys/kernel/debug/rknpu/load来查看，但是在3399上并不适用；还有如何在多模型情况下让某一个模型绑定固定的npu核来推理，不知是否有官方C++ demo参考

只看该作者 · 发表于 2023-9-27 11:17:57

没有什么可以看的，也不需要看，就是一个dsp分时复用的，占用率只有0和100%两种情况.
3399pro只有一个npu核，也不存在多核情况。

只看该作者 · 发表于 2023-9-27 13:59:23

jefferyzhang 发表于 2023-9-27 11:17
没有什么可以看的，也不需要看，就是一个dsp分时复用的，占用率只有0和100%两种情况.
3399pro只有一个npu核 ...

那开发文档上这些获取性能和内存这些接口到底有没有意义呢，如果是和我们平时top命令查看CPU和内存资源是同一种意思，上面这些接口是python的，有无命令也可以查看这些信息；在多模型推理情况下，我也要评估一下npu内存够不够的

只看该作者 · 发表于 2023-9-27 14:21:29

本帖最后由 jefferyzhang 于 2023-9-27 14:37 编辑

自由的学习发表于 2023-9-27 13:59
那开发文档上这些获取性能和内存这些接口到底有没有意义呢，如果是和我们平时top命令查看CPU和内存资源 ...

3399pro板子上有个串口是npu的，你可以通过这个串口登录npu来查看

只看该作者 · 发表于 2023-11-7 11:38:26

请问楼主找到方法了吗，刚刚也遇到了这个问题