Toybrick

标题: 3399Pro如何查看npu使用情况 [打印本页]

作者: 自由的学习 时间: 2023-9-25 10:07
标题: 3399Pro如何查看npu使用情况
使用C++进行模型推理期间，请问有什么命令可以查看npu的使用情况，在网上搜了一圈3588上好像可以通过cat /sys/kernel/debug/rknpu/load来查看，但是在3399上并不适用；还有如何在多模型情况下让某一个模型绑定固定的npu核来推理，不知是否有官方C++ demo参考

作者: jefferyzhang 时间: 2023-9-27 11:17
没有什么可以看的，也不需要看，就是一个dsp分时复用的，占用率只有0和100%两种情况.
3399pro只有一个npu核，也不存在多核情况。

作者: 自由的学习 时间: 2023-9-27 13:59

jefferyzhang 发表于 2023-9-27 11:17
没有什么可以看的，也不需要看，就是一个dsp分时复用的，占用率只有0和100%两种情况.
3399pro只有一个npu核 ...

[attach]2765[/attach]
那开发文档上这些获取性能和内存这些接口到底有没有意义呢，如果是和我们平时top命令查看CPU和内存资源是同一种意思，上面这些接口是python的，有无命令也可以查看这些信息；在多模型推理情况下，我也要评估一下npu内存够不够的

作者: jefferyzhang 时间: 2023-9-27 14:21
本帖最后由 jefferyzhang 于 2023-9-27 14:37 编辑

自由的学习发表于 2023-9-27 13:59
那开发文档上这些获取性能和内存这些接口到底有没有意义呢，如果是和我们平时top命令查看CPU和内存资源 ...

3399pro板子上有个串口是npu的，你可以通过这个串口登录npu来查看

作者: 闰土他娘 时间: 2023-11-7 11:38
请问楼主找到方法了吗，刚刚也遇到了这个问题

欢迎光临 Toybrick (https://t.rock-chips.com/)