rk3588运行yolov5s

[复制链接] · 发表于 2023-2-4 09:35:08

运行检测模型时帧率只有5、6帧，npu利用率低只有10%左右，请问是哪里存在问题该如何解决呢

显示全部楼层 · 发表于 2023-2-6 10:34:23

jefferyzhang 发表于 2023-2-6 09:26
量化了吗？

量化了的，目前跑的就是rknpu2里的转换出来的官方模型

显示全部楼层 · 发表于 2023-2-6 10:48:03

jefferyzhang 发表于 2023-2-6 09:26
量化了吗？

现在我们两块板子一个能跑20多帧占用率26，这块只能跑6帧占用率11

显示全部楼层 · 发表于 2023-2-7 09:29:31

是rknn模型啊，官方给的yolov5s-640-640.rknn，在开发板上用python调用摄像头跑

显示全部楼层 · 发表于 2023-2-8 14:00:19

zhengsy 发表于 2023-2-7 17:03
请问你是用C写的还是python写的，我在板子上调用摄像头跑也很慢（python版本） ...

是PYTHON写的。
我这儿两块板子，同样的代码和模型，一个是6帧左右，npu占用10%。一个是20多帧，npu占用25%左右。

显示全部楼层 · 发表于 2023-2-8 14:02:35

jefferyzhang 发表于 2023-2-6 10:52
你跑的是rknn模型么，看下官方文档和demo，你不会跑的是仿真吧。

是rknn模型，官方给的yolov5s-640-640.rknn，在开发板上用python调用摄像头跑.
两块板子跑同样的代码和模型，但是帧率和npu调用不一样，

显示全部楼层 · 发表于 2023-2-13 15:44:05

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一个是toybrick的，就是NPU占用25%左右，请问这个还能提升吗？

显示全部楼层 · 发表于 2023-2-14 11:01:10

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一块是toybrick的板子，就是跑二十多帧，NPU占用28%左右的那个。
请问NPU使用率还能怎么提升？能通过提高NPU使用来继续提速吗？

显示全部楼层 · 发表于 2023-2-14 11:37:10

jefferyzhang 发表于 2023-2-14 11:04
不要在意那个，你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理，占用率就会上 ...

好的，明白，谢谢了。
我以为我没回复到

，然后多回复了一次