rknn多图推理参数设置

gwjjj35 发表于 2019-10-16 08:55
有没有官方技术人员解答一下呀！着急！

输出图片的要注意下是NCHW结构还是NHWC结构。
调换下试试结果。
不是很懂的情况下，可以用c接口枚举出输出类型看下。

batchsize=1是否一致

呱唧 发表于 2020-3-16 16:29
请问一下，这里将rknn_batch_size设为3，一次跑3张图片，比rknn_batch_size设为1，顺序执行3张图片要快吗？ ...

这个不一定快，得看NPU是不是刚好有空闲资源。
NPU是分时复用的，除非刚好遇到一个简单的OP出现NPU资源空闲，可以通过加大batch塞满计算资源外，其余都是分时复用的，batch=3和batch=1送三次没区别。