请问RKNN有并行加载模型的方法吗？

[复制链接] · 发表于 2020-9-28 11:09:12

我们的项目需要使用7个NPU（1个3399pro自带+6个1808S0），每个NPU加载3个模型。当前加载时间得30多秒

只看该作者 · 发表于 2020-9-28 11:17:06

7个你开7个线程不就好了

只看该作者 · 发表于 2020-9-28 13:19:33

开7个线程后，模型仍然是串行加载的，没有并行起来。

只看该作者 · 发表于 2020-9-28 14:19:46

YOLOV3 416模型加载确实比较慢，需要30多秒，这一块相比其他芯片有待改进

只看该作者 · 发表于 2020-9-29 10:18:58

whx_huxin 发表于 2020-9-28 14:19
YOLOV3 416模型加载确实比较慢，需要30多秒，这一块相比其他芯片有待改进

應該不用這麼久，模型轉出時有預編譯(Precompile)嗎?
預編譯的模型可以加快載入速度