Toybrick

rknn_init时间很长

nila

注册会员

积分
109
发表于 2019-3-5 17:26:14    查看: 5809|回复: 20 | [复制链接]    打印 | 显示全部楼层
运行rknn_init这个函数的时候,发现运行时间是33.692s
这个时间好长,是否正确?
如果代码中间要切换模型,是不是也要这么长的时间进行重新初始化?
回复

使用道具 举报

seedlin

注册会员

积分
54
发表于 2019-3-5 17:46:45 | 显示全部楼层
我有试过多个模型的,一开始的时候init几个模型,然后后面直接用,也用的好好的
回复

使用道具 举报

nevin007

注册会员

积分
127
发表于 2019-3-5 19:51:18 | 显示全部楼层
seedlin 发表于 2019-3-5 17:46
我有试过多个模型的,一开始的时候init几个模型,然后后面直接用,也用的好好的 ...

你好,我在跑多模型的时候也碰到了类似问题,我想问下,你用的是Python的API还是C++的API?
回复

使用道具 举报

seedlin

注册会员

积分
54
发表于 2019-3-6 14:51:01 | 显示全部楼层
nevin007 发表于 2019-3-5 19:51
你好,我在跑多模型的时候也碰到了类似问题,我想问下,你用的是Python的API还是C++的API? ...

python的,不过python最终也是需要调用C的lib来执行的,所以是一样的,要注意两个模型必须是两个context
回复

使用道具 举报

nevin007

注册会员

积分
127
发表于 2019-3-6 18:01:57 | 显示全部楼层
seedlin 发表于 2019-3-6 14:51
python的,不过python最终也是需要调用C的lib来执行的,所以是一样的,要注意两个模型必须是两个context ...

我是直接用的C++API,但是用两个context仍然会报错,能帮忙定位下问题么?
论坛链接:http://t.rock-chips.com/forum.ph ... 9&page=1#pid888
回复

使用道具 举报

jefferyzhang

超级版主

积分
7596
发表于 2019-3-7 13:02:39 | 显示全部楼层
正确的,init时候在转成npu能识别的语言,时间需要很久,你可以转换时候打开pre_compiling选项,能把一部分编译工作放到转换时候完成,能大大缩减init时间。
init一次后没有重新复位npu是不需要重新init的,后面run的速度就非常快了。
回复

使用道具 举报

jefferyzhang

超级版主

积分
7596
发表于 2019-3-7 13:03:50 | 显示全部楼层
seedlin 发表于 2019-3-5 17:46
我有试过多个模型的,一开始的时候init几个模型,然后后面直接用,也用的好好的 ...

是的,rknn支持同时初始化多个模型,后面都可以直接使用。
回复

使用道具 举报

nevin007

注册会员

积分
127
发表于 2019-3-7 20:49:29 | 显示全部楼层
jefferyzhang 发表于 2019-3-7 13:03
是的,rknn支持同时初始化多个模型,后面都可以直接使用。

你好,想问下C++API是不是不支持同时初始化多个模型?我试过python的API可以初始化多模型,但C++API不可以...
回复

使用道具 举报

jefferyzhang

超级版主

积分
7596
发表于 2019-3-8 12:11:27 | 显示全部楼层
nevin007 发表于 2019-3-7 20:49
你好,想问下C++API是不是不支持同时初始化多个模型?我试过python的API可以初始化多模型,但C++API不可 ...

支持的,可以用的。我回头自己也试试。
回复

使用道具 举报

nevin007

注册会员

积分
127
发表于 2019-3-12 11:58:14 | 显示全部楼层
jefferyzhang 发表于 2019-3-8 12:11
支持的,可以用的。我回头自己也试试。

你好,建议测试一下MTCNN的PNet
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表