Toybrick

3399Pro如何查看npu使用情况

自由的学习

注册会员

积分
165
发表于 2023-9-25 10:07:07    查看: 1610|回复: 4 | [复制链接]    打印 | 显示全部楼层
使用C++进行模型推理期间,请问有什么命令可以查看npu的使用情况,在网上搜了一圈3588上好像可以通过cat /sys/kernel/debug/rknpu/load来查看,但是在3399上并不适用;还有如何在多模型情况下让某一个模型绑定固定的npu核来推理,不知是否有官方C++ demo参考
回复

使用道具 举报

jefferyzhang

版主

积分
12768
发表于 2023-9-27 11:17:57 | 显示全部楼层
没有什么可以看的,也不需要看,就是一个dsp分时复用的,占用率只有0和100%两种情况.
3399pro只有一个npu核,也不存在多核情况。
回复

使用道具 举报

自由的学习

注册会员

积分
165
 楼主| 发表于 2023-9-27 13:59:23 | 显示全部楼层
jefferyzhang 发表于 2023-9-27 11:17
没有什么可以看的,也不需要看,就是一个dsp分时复用的,占用率只有0和100%两种情况.
3399pro只有一个npu核 ...


那开发文档上这些获取性能和内存这些接口到底有没有意义呢,如果是和我们平时top命令查看CPU和内存资源是同一种意思,上面这些接口是python的,有无命令也可以查看这些信息;在多模型推理情况下,我也要评估一下npu内存够不够的

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
12768
发表于 2023-9-27 14:21:29 | 显示全部楼层
本帖最后由 jefferyzhang 于 2023-9-27 14:37 编辑
自由的学习 发表于 2023-9-27 13:59
那开发文档上这些获取性能和内存这些接口到底有没有意义呢,如果是和我们平时top命令查看CPU和内存资源 ...

3399pro板子上有个串口是npu的,你可以通过这个串口登录npu来查看
回复

使用道具 举报

闰土他娘

注册会员

积分
63
发表于 2023-11-7 11:38:26 | 显示全部楼层
请问楼主找到方法了吗,刚刚也遇到了这个问题
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表