Toybrick
标题:
batch 推理速度
[打印本页]
作者:
ltm
时间:
2021-5-6 15:53
标题:
batch 推理速度
根据
https://github.com/soloIife/yolov5_for_rknn
, 将yolov5s经过onnx到rknn,输入大小为320,测试batch=1 与 batch=8 的平均单张推理时间相同,请过路大神指点,谢谢
作者:
jefferyzhang
时间:
2021-5-6 16:23
分时复用的,就一个NPU,你可以理解为单核,batch=8就是8倍的batch=1的时间。
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3