Toybrick

楼主: zhangzj

【Official Release】rknn-toolkit-1.2.0&rknn-api-0.9.9 Release

程子

中级会员

积分
383
发表于 2019-2-27 13:40:17 | 显示全部楼层
Lee 发表于 2019-2-27 12:11
哦,顺便咨询下,那开发板连到pc板上跑,和直接在板子上跑 ,差异大吗?pc连开发板,是不是实际也跑的arm ...

如果你指的通过串口或ssh或直接在开发板上操作,那没区别。
在PC上跑和在板子上跑不一样,PC上没有NPU,只能预估一下时间开销什么的。
回复

使用道具 举报

zhangzj

超级版主

积分
615
 楼主| 发表于 2019-2-27 14:30:53 | 显示全部楼层
Lee 发表于 2019-2-27 12:11
哦,顺便咨询下,那开发板连到pc板上跑,和直接在板子上跑 ,差异大吗?pc连开发板,是不是实际也跑的arm ...

如果是PC上面的rknn-toolkit运行调到连接的开发板,则会多一个通信的开销。
回复

使用道具 举报

Lee

注册会员

积分
153
发表于 2019-2-27 16:32:10 | 显示全部楼层
zhangzj 发表于 2019-2-27 14:30
如果是PC上面的rknn-toolkit运行调到连接的开发板,则会多一个通信的开销。

ok,linux和android api里面的inference接口,是不是不存在耗时的bug?包里面好像只有android的,没有linux的?
回复

使用道具 举报

elooon

注册会员

积分
139
发表于 2019-2-27 16:44:08 | 显示全部楼层
Lee 发表于 2019-2-27 16:32
ok,linux和android api里面的inference接口,是不是不存在耗时的bug?包里面好像只有android的,没有lin ...

我这边用C API没有耗时的问题,官方网盘上面两种系统的C API的库已经都有了,不过linux可以用dnf install -y rknn-api直接安装。
回复

使用道具 举报

Lee

注册会员

积分
153
发表于 2019-2-27 16:49:47 | 显示全部楼层
elooon 发表于 2019-2-27 16:44
我这边用C API没有耗时的问题,官方网盘上面两种系统的C API的库已经都有了,不过linux可以用dnf install ...

多谢,能否提供下官方网盘的地址?在板子自带的fedora上配置python环境快哭了
回复

使用道具 举报

程子

中级会员

积分
383
发表于 2019-2-27 21:00:40 | 显示全部楼层
Lee 发表于 2019-2-27 16:49
多谢,能否提供下官方网盘的地址?在板子自带的fedora上配置python环境快哭了 ...

https://eyun.baidu.com/s/3nwJ4mDV
回复

使用道具 举报

程子

中级会员

积分
383
发表于 2019-2-27 21:04:34 | 显示全部楼层
FYI:测试了一下自建网络在RKNN 0.9.8.1,使用 rknn.inference() 的性能大约是 rknn.eval_perf() 的80%左右
回复

使用道具 举报

Lee

注册会员

积分
153
发表于 2019-2-28 10:33:21 | 显示全部楼层
程子 发表于 2019-2-27 21:04
FYI:测试了一下自建网络在RKNN 0.9.8.1,使用 rknn.inference() 的性能大约是 rknn.eval_perf() 的80%左右 ...

更新0.9.8.1,在板子上跑,确实快了很多,rknn.eval_perf()自身都快了,但是我这边rknn.inference()的性能没有80%这么好,只有50%差点,有什么问题吗?
    start_time = timeit.default_timer()
    for i in range(50):
        outputs = rknn.inference(inputs=[img])
    end_time = timeit.default_timer()
此外,再确认下,c api的性能是不是不受影响?
谢谢!
回复

使用道具 举报

elooon

注册会员

积分
139
发表于 2019-2-28 11:04:21 | 显示全部楼层
Lee 发表于 2019-2-28 10:33
更新0.9.8.1,在板子上跑,确实快了很多,rknn.eval_perf()自身都快了,但是我这边rknn.inference()的性 ...

性能数据估计还跟网络结构有关系.....
c api应该是跟rknn-toolkit没关系的
回复

使用道具 举报

MraxZhao

注册会员

积分
55
发表于 2019-2-28 21:15:49 | 显示全部楼层
重新安装使用0.9.8.1版本后确实相较于之前好些了,想知道到底是更改优化了什么?
还有,似乎自己打印的时间仍然是性能评估的3倍左右
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表