Toybrick

请问RKNN有并行加载模型的方法吗?

newneu

新手上路

积分
43
楼主
发表于 2020-9-28 11:09:12    查看: 6242|回复: 4 | [复制链接]    打印 | 显示全部楼层
我们的项目需要使用7个NPU(1个3399pro自带+6个1808S0),每个NPU加载3个模型。当前加载时间得30多秒
回复

使用道具 举报

newneu

新手上路

积分
43
沙发
 楼主| 发表于 2020-9-28 13:19:33 | 显示全部楼层
开7个线程后,模型仍然是串行加载的,没有并行起来。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表