Toybrick

标题: rk3588运行yolov5s [打印本页]

作者: Beretania 时间: 2023-2-4 09:35
标题: rk3588运行yolov5s
运行检测模型时帧率只有5、6帧，npu利用率低只有10%左右，请问是哪里存在问题该如何解决呢

作者: jefferyzhang 时间: 2023-2-6 09:26
量化了吗？

作者: Beretania 时间: 2023-2-6 10:34

jefferyzhang 发表于 2023-2-6 09:26
量化了吗？

量化了的，目前跑的就是rknpu2里的转换出来的官方模型

作者: Beretania 时间: 2023-2-6 10:48

jefferyzhang 发表于 2023-2-6 09:26
量化了吗？

现在我们两块板子一个能跑20多帧占用率26，这块只能跑6帧占用率11

作者: jefferyzhang 时间: 2023-2-6 10:52
你跑的是rknn模型么，看下官方文档和demo，你不会跑的是仿真吧。

作者: Beretania 时间: 2023-2-7 09:29
是rknn模型啊，官方给的yolov5s-640-640.rknn，在开发板上用python调用摄像头跑

作者: zhengsy 时间: 2023-2-7 17:03

Beretania 发表于 2023-2-7 09:29
是rknn模型啊，官方给的yolov5s-640-640.rknn，在开发板上用python调用摄像头跑

请问你是用C写的还是python写的，我在板子上调用摄像头跑也很慢（python版本）

作者: Beretania 时间: 2023-2-8 14:00

zhengsy 发表于 2023-2-7 17:03
请问你是用C写的还是python写的，我在板子上调用摄像头跑也很慢（python版本） ...

是PYTHON写的。
我这儿两块板子，同样的代码和模型，一个是6帧左右，npu占用10%。一个是20多帧，npu占用25%左右。

作者: Beretania 时间: 2023-2-8 14:02

jefferyzhang 发表于 2023-2-6 10:52
你跑的是rknn模型么，看下官方文档和demo，你不会跑的是仿真吧。

是rknn模型，官方给的yolov5s-640-640.rknn，在开发板上用python调用摄像头跑.
两块板子跑同样的代码和模型，但是帧率和npu调用不一样，

作者: jefferyzhang 时间: 2023-2-8 14:47

Beretania 发表于 2023-2-8 14:00
是PYTHON写的。
我这儿两块板子，同样的代码和模型，一个是6帧左右，npu占用10%。一个是20多帧，npu占用2 ...

如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

作者: Beretania 时间: 2023-2-13 15:44

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一个是toybrick的，就是NPU占用25%左右，请问这个还能提升吗？

作者: jefferyzhang 时间: 2023-2-13 17:43

Beretania 发表于 2023-2-13 15:44
有一个是toybrick的，就是NPU占用25%左右，请问这个还能提升吗？

你可以试试同时送2张图占用率能不能翻倍，同一个模型是没办法提升的，这个NPU不是通用计算单元，不是所有算子都能在同时间跑满的。

作者: Beretania 时间: 2023-2-14 11:01

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一块是toybrick的板子，就是跑二十多帧，NPU占用28%左右的那个。
请问NPU使用率还能怎么提升？能通过提高NPU使用来继续提速吗？

作者: jefferyzhang 时间: 2023-2-14 11:04

Beretania 发表于 2023-2-14 11:01
有一块是toybrick的板子，就是跑二十多帧，NPU占用28%左右的那个。
请问NPU使用率还能怎么提升？能通过提 ...

不要在意那个，你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理，占用率就会上去，对一个模型来说他不可能上去。

作者: Beretania 时间: 2023-2-14 11:37

jefferyzhang 发表于 2023-2-14 11:04
不要在意那个，你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理，占用率就会上 ...

好的，明白，谢谢了。
我以为我没回复到

，然后多回复了一次

欢迎光临 Toybrick (https://t.rock-chips.com/)