rk3588运行yolov5s

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一个是toybrick的，就是NPU占用25%左右，请问这个还能提升吗？

Beretania 发表于 2023-2-13 15:44
有一个是toybrick的，就是NPU占用25%左右，请问这个还能提升吗？

你可以试试同时送2张图占用率能不能翻倍，同一个模型是没办法提升的，这个NPU不是通用计算单元，不是所有算子都能在同时间跑满的。

jefferyzhang 发表于 2023-2-8 14:47
如果你不是toybrick的板子，就只能去找板商反馈问题，是不是驱动都有问题

有一块是toybrick的板子，就是跑二十多帧，NPU占用28%左右的那个。
请问NPU使用率还能怎么提升？能通过提高NPU使用来继续提速吗？

Beretania 发表于 2023-2-14 11:01
有一块是toybrick的板子，就是跑二十多帧，NPU占用28%左右的那个。
请问NPU使用率还能怎么提升？能通过提 ...

不要在意那个，你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理，占用率就会上去，对一个模型来说他不可能上去。

jefferyzhang 发表于 2023-2-14 11:04
不要在意那个，你提升不了。NPU占用率根本就没有太大意义。
你可以试着同时跑多个模型推理，占用率就会上 ...

好的，明白，谢谢了。
我以为我没回复到，然后多回复了一次