yolov3推理时间超长

量化了么，推理时间多久？
首次加载模型当然很慢，推理是推理，加载是加载

小宁哥 发表于 2019-12-18 11:17
做了量化，推理时间（rknn.inference函数）374.85秒，你说的加载模型是rknn.load_rknn吗 ...

除了推理inference，都是初始化

小宁哥 发表于 2019-12-18 12:44
我是使用toolkit工具在pc上跑的，在rk3399上就270ms了，是因为这个工具只适用于这些板子吗 ...

.....
PC那只是仿真

小宁哥 发表于 2019-12-18 16:01
pc是模拟的rk1808吧，那速度也未免太慢了吧

pc模拟你要看输出的时间和帧率，而不是自己去算他运行时间。
仿真运行而已。 1808和3399pro用的npu是同一个。
莫非你意思是用我们toolkit，你电脑就能得到我们NPU的推理速度了？