Toybrick

rknn_batch_size>1的时候,rknn运算是多张图并行吗?

jefferyzhang

版主

积分
12962
楼主
发表于 2020-3-29 11:07:15 | 显示全部楼层
并不并行得看具体op驱动是否支持,如果是可以多batch合并运算的op,是会并行计算的,否则都只是分时复用。
具体可以根据自己模型打印下时间,理论上是会有些许提升,但一般来说提升不会很大。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表