[Old Version] rknn-toolkit-1.2.0&rknn-api-0.9.9 Release

Lee 发表于 2019-2-27 12:11
哦，顺便咨询下，那开发板连到pc板上跑，和直接在板子上跑 ，差异大吗？pc连开发板，是不是实际也跑的arm ...

如果你指的通过串口或ssh或直接在开发板上操作，那没区别。
在PC上跑和在板子上跑不一样，PC上没有NPU，只能预估一下时间开销什么的。

Lee 发表于 2019-2-27 12:11
哦，顺便咨询下，那开发板连到pc板上跑，和直接在板子上跑 ，差异大吗？pc连开发板，是不是实际也跑的arm ...

如果是PC上面的rknn-toolkit运行调到连接的开发板，则会多一个通信的开销。

zhangzj 发表于 2019-2-27 14:30
如果是PC上面的rknn-toolkit运行调到连接的开发板，则会多一个通信的开销。

ok，linux和android api里面的inference接口，是不是不存在耗时的bug？包里面好像只有android的，没有linux的？

Lee 发表于 2019-2-27 16:32
ok，linux和android api里面的inference接口，是不是不存在耗时的bug？包里面好像只有android的，没有lin ...

我这边用C API没有耗时的问题，官方网盘上面两种系统的C API的库已经都有了，不过linux可以用dnf install -y rknn-api直接安装。

elooon 发表于 2019-2-27 16:44
我这边用C API没有耗时的问题，官方网盘上面两种系统的C API的库已经都有了，不过linux可以用dnf install ...

多谢，能否提供下官方网盘的地址？在板子自带的fedora上配置python环境快哭了

Lee 发表于 2019-2-27 16:49
多谢，能否提供下官方网盘的地址？在板子自带的fedora上配置python环境快哭了 ...

https://eyun.baidu.com/s/3nwJ4mDV

FYI：测试了一下自建网络在RKNN 0.9.8.1，使用 rknn.inference() 的性能大约是 rknn.eval_perf() 的80%左右

程子 发表于 2019-2-27 21:04
FYI：测试了一下自建网络在RKNN 0.9.8.1，使用 rknn.inference() 的性能大约是 rknn.eval_perf() 的80%左右 ...

更新0.9.8.1，在板子上跑，确实快了很多，rknn.eval_perf()自身都快了，但是我这边rknn.inference()的性能没有80%这么好，只有50%差点，有什么问题吗？
    start_time = timeit.default_timer()
    for i in range(50):
        outputs = rknn.inference(inputs=[img])
    end_time = timeit.default_timer()
此外，再确认下，c api的性能是不是不受影响？
谢谢！

Lee 发表于 2019-2-28 10:33
更新0.9.8.1，在板子上跑，确实快了很多，rknn.eval_perf()自身都快了，但是我这边rknn.inference()的性 ...

性能数据估计还跟网络结构有关系.....
c api应该是跟rknn-toolkit没关系的

重新安装使用0.9.8.1版本后确实相较于之前好些了，想知道到底是更改优化了什么？
还有，似乎自己打印的时间仍然是性能评估的3倍左右