Toybrick

楼主: Beretania

rk3588运行yolov5s

jefferyzhang

版主

积分
12953
楼主
发表于 2023-2-6 09:26:06 | 显示全部楼层
量化了吗?
回复

使用道具 举报

jefferyzhang

版主

积分
12953
沙发
发表于 2023-2-6 10:52:29 | 显示全部楼层
你跑的是rknn模型么,看下官方文档和demo,你不会跑的是仿真吧。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
板凳
发表于 2023-2-8 14:47:25 | 显示全部楼层
Beretania 发表于 2023-2-8 14:00
是PYTHON写的。
我这儿两块板子,同样的代码和模型,一个是6帧左右,npu占用10%。一个是20多帧,npu占用2 ...

如果你不是toybrick的板子,就只能去找板商反馈问题,是不是驱动都有问题
回复

使用道具 举报

jefferyzhang

版主

积分
12953
地板
发表于 2023-2-13 17:43:52 | 显示全部楼层
Beretania 发表于 2023-2-13 15:44
有一个是toybrick的,就是NPU占用25%左右,请问这个还能提升吗?

你可以试试同时送2张图占用率能不能翻倍,同一个模型是没办法提升的,这个NPU不是通用计算单元,不是所有算子都能在同时间跑满的。

回复

使用道具 举报

jefferyzhang

版主

积分
12953
5#
发表于 2023-2-14 11:04:17 | 显示全部楼层
Beretania 发表于 2023-2-14 11:01
有一块是toybrick的板子,就是跑二十多帧,NPU占用28%左右的那个。
请问NPU使用率还能怎么提升?能通过提 ...

不要在意那个,你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理,占用率就会上去,对一个模型来说他不可能上去。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表