Toybrick

标题: RK3399PRO同时运行多路推理时相互干扰 [打印本页]

作者: whx_huxin 时间: 2020-10-21 15:09
标题: RK3399PRO同时运行多路推理时相互干扰
2路运行时，一路A已经完成模型加载后开始RKNN推理，另外一路B开始先加载模型，一般需要将近40秒，这一段时间内结果原来的一路A的推理就被暂停了（调用推理的线程被挂住），等到一路B加载模型成功后，一路A的线程才能继续运行。
RKNN多路推理在多线程多通道上不友好，建议改进，一路已经开始推理，另一路加载不应该干扰原来的通道呀。
请确认是否有办法优化？

欢迎光临 Toybrick (https://t.rock-chips.com/)