rknn-toolkit2 1.4.0 多输入推理参数如何设置

[复制链接] · 发表于 2023-1-31 20:42:11

因为要部署的是车辆重识别模型，image_query和image_test加起来有一万多张，请问在模型转换和使用lite2 python部署工具时参数应该如何设置？推理时inference的inputs参数怎么填写?目前了解到模型转换rknn-toolkit2 手册里：
1.build api里的rknn_batch_size的建议值小于32，那么一万多张输入的情况下，这个值应该怎么设置？
2.config api里的mean_values和std_values，多输入模型对应多个子列表，一万多张怎么挨个对应？
本人小白刚接触这些东西，希望各位多多指点

只看该作者 · 发表于 2023-2-1 09:17:57

没看懂你问题，一万多张图？同时塞进去推理？

只看该作者 · 发表于 2023-2-1 13:23:26

jefferyzhang 发表于 2023-2-1 09:17
没看懂你问题，一万多张图？同时塞进去推理？

同时塞进去这样可以吗？
重识别这种很多张图的，inference推理一般是怎么处理的？

只看该作者 · 发表于 2023-2-1 18:11:48

西北天狼发表于 2023-2-1 13:23
同时塞进去这样可以吗？
重识别这种很多张图的，inference推理一般是怎么处理的？ ...

一张一张推理啊，你用谁家库能一个batch 10000多张图？