Toybrick

标题: RKNN能不能同时做不同模型的推理 [打印本页]

作者: zhuo799154051 时间: 2021-4-20 10:50
标题: RKNN能不能同时做不同模型的推理
我写了两路不同模型推理摄像头的线程，单路情况下一路每秒推25帧而另一路每秒推15帧。
我想要实现两路同时跑的时候保持一路每秒推25帧而另一路每秒推15帧，但是RKNN一次只能推一帧（多图推理需要相同模型），最终两路线程都只能达到每秒推15帧。
请问有什么方法能实现我的目标？

作者: jefferyzhang 时间: 2021-4-20 13:54
NPU是分时复用的，你可以同时推理非常多不同模型，但是内部是交替使用的。

欢迎光临 Toybrick (https://t.rock-chips.com/)