Toybrick

time spent difference between rknn.inference and rknn.eval_perf

pangu

注册会员

积分
77
发表于 2019-3-15 16:48:00    查看: 1495|回复: 3 | [复制链接]    打印 | 显示全部楼层
I ran 100 times of  rknn.inference() of mobilenet-v1-ssd and measure average time of each run using time.time(). It is

Time:  0.0248 sec

However, rknn.eval_perf() shows:

========================================================================
Total Time(us): 13779 (0.013779 sec)
FPS: 72.57
========================================================================

Both has the same input image, How can rknn_eval time be almost half of rknn.inference? Which one is more accurate?

Thanks,

回复

使用道具 举报

程子

中级会员

积分
386
发表于 2019-3-15 17:01:40 | 显示全部楼层
好像是常规现象。
我自己网络 rknn.eval_perf() 返回的时间大概是 rknn.inference() 的70%
回复

使用道具 举报

tof3d

中级会员

积分
210
发表于 2019-3-15 17:13:22 | 显示全部楼层
I have the same question
回复

使用道具 举报

zhangzj

超级版主

积分
962
发表于 2019-3-18 16:04:02 | 显示全部楼层
rknn.inference()比rknn.eval_perf()耗时久是正常的。
inference()包含了数据通信拷贝等一系列额外的开销。
eval_perf()是用作性能评估,仅统计网络推理运行时间。  
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表