Toybrick

yolov3推理时间超长

小宁哥

注册会员

积分
93
楼主
发表于 2019-12-17 23:25:31    查看: 7007|回复: 7 | [复制链接]    打印 | 显示全部楼层
我用rknn_toolkit推理我自己训练的yolov3模型,时间长达366.57秒,是怎么回事,另外在板子上推理,到init runtime environment就似乎卡住额,需要很长时间,求解答
回复

使用道具 举报

小宁哥

注册会员

积分
93
沙发
 楼主| 发表于 2019-12-18 11:17:17 | 显示全部楼层
jefferyzhang 发表于 2019-12-18 08:30
量化了么,推理时间多久?
首次加载模型当然很慢,推理是推理,加载是加载 ...

做了量化,推理时间(rknn.inference函数)374.85秒,你说的加载模型是rknn.load_rknn吗
回复

使用道具 举报

小宁哥

注册会员

积分
93
板凳
 楼主| 发表于 2019-12-18 12:44:07 | 显示全部楼层
jefferyzhang 发表于 2019-12-18 11:44
除了推理inference,都是初始化

我是使用toolkit工具在pc上跑的,在rk3399上就270ms了,是因为这个工具只适用于这些板子吗
回复

使用道具 举报

小宁哥

注册会员

积分
93
地板
 楼主| 发表于 2019-12-18 16:01:41 | 显示全部楼层

pc是模拟的rk1808吧,那速度也未免太慢了吧
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表