Toybrick

标题: batch 推理速度 [打印本页]

作者: ltm    时间: 2021-5-6 15:53
标题: batch 推理速度
根据https://github.com/soloIife/yolov5_for_rknn, 将yolov5s经过onnx到rknn,输入大小为320,测试batch=1 与 batch=8 的平均单张推理时间相同,请过路大神指点,谢谢

作者: jefferyzhang    时间: 2021-5-6 16:23
分时复用的,就一个NPU,你可以理解为单核,batch=8就是8倍的batch=1的时间。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3