Toybrick

Why Why Why, 打时间戳看inference用了40ms,eval_perf显示12ms ?

fantrix

注册会员

积分
58
楼主
发表于 2019-3-28 14:31:20    查看: 8433|回复: 1 | [复制链接]    打印 | 只看该作者

这是怎么了?
还有个问题,load_rknn后,stdout似乎被关闭了,用logging模块输出会报错,print打出来的东西也不实时显示,要exit后才一把输出。
刚玩RKNN,望指教.


    # Inference
    print('---Running model')
    s = time.time()
    outputs = rknn.inference(inputs=[img])
    e = time.time()
    print('Inference done, used time: {} ms'.format((e - s)*1000))
    rknn.eval_perf(inputs=[img], is_print=True)


输出:
---Running model
Inference done, used time: 40.583133697509766 ms
========================================================================
                               Performance                              
========================================================================
Total Time(us): 12635
FPS: 79.15
========================================================================


回复

使用道具 举报

troy

版主

积分
2356
沙发
发表于 2019-3-28 15:21:47 | 只看该作者
rknn的stdout/stderr重定向和opencv有些冲突,你现在可以先在调用完我们的接口后加下面两句(需要import sys),规避这个问题,后续RKNN-Toolkit升级的时候我们会解决这个问题:
sys.stdout = open('/dev/stdout', 'w')
sys.stderr = open('/dev/stderr', 'w')
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表