Toybrick

rknn是否支持动态输入inputs数量?

jefferyzhang

版主

积分
13001
楼主
发表于 2023-6-8 09:40:38 | 显示全部楼层
不支持,你可以input定义大一点,填不满给0.
回复

使用道具 举报

jefferyzhang

版主

积分
13001
沙发
发表于 2023-6-8 12:40:11 | 显示全部楼层
殷艳坤 发表于 2023-6-8 11:21
1、inputs数量是否是指batchsize的值呢?
2、那如果input定义100,这个推理效率和input定义为1之间的效率 ...

你的模型是在不同的batch里交叉计算的?我没见过这种模型呀
回复

使用道具 举报

jefferyzhang

版主

积分
13001
板凳
发表于 2023-6-8 14:18:49 | 显示全部楼层
殷艳坤 发表于 2023-6-8 13:38
不是的,是一次推理多张图片,没有交叉计算

那batch设置1就好了,一次送一张
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表