Toybrick

RKNN能不能同时做不同模型的推理

zhuo799154051

中级会员

积分
439
发表于 2021-4-20 10:50:51    查看: 529|回复: 1 | [复制链接]    打印 | 显示全部楼层
我写了两路不同模型推理摄像头的线程,单路情况下一路每秒推25帧而另一路每秒推15帧。
我想要实现两路同时跑的时候保持一路每秒推25帧而另一路每秒推15帧,但是RKNN一次只能推一帧(多图推理需要相同模型),最终两路线程都只能达到每秒推15帧。
请问有什么方法能实现我的目标?

回复

使用道具 举报

jefferyzhang

论坛元老

积分
8193
发表于 2021-4-20 13:54:37 | 显示全部楼层
NPU是分时复用的,你可以同时推理非常多不同模型,但是内部是交替使用的。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表