Toybrick

【官方发布】rknn-toolkit-1.0.0&rknn-api-0.9.5版本发布

zhangzj

超级版主

积分
404
发表于 2019-2-15 14:37:59    查看: 2792|回复: 37 | [复制链接]    打印 | 显示全部楼层
本帖最后由 zhangzj 于 2019-5-21 15:07 编辑

rknn-toolkit-V1.0.0
官方已发布rknn-toolkit-1.0.0版本。百度网盘下载地址:https://eyun.baidu.com/s/3qZUVUEg
海外OneDrive下载地址:rknn-onedrive
2019-05-08
版本:v1.0.0
1. inference接口支持输入透传模式。
2. 初始化运行环境时支持异步模型。
3. 新功能:混合量化。
4. 优化pre-compile模型的加载时间。新版本工具生成的预编译模型无法在NPU驱动版本号小于0.9.6的设备上运行;旧版本生成的预编译模型也无法在新版本驱动上运行。
5. 调整模型推理结果的排列顺序:在1.0.0以前,如果原始模型输出的结果是按"NHWC"排列(例如TensorFlow模型),则工具会把结果转成"NCHW";从1.0.0版本开始,将不做这个转换,而是保持跟原始模型的排列一致。

rknn-api-V0.9.5
百度网盘下载地址:https://eyun.baidu.com/s/3dzAtcy
海外OneDrive下载地址:rknn-onedrive
changelog:
update reorder support;
optimize preprocess for input data;

Note:
1.本次更新api接口没有变化
2.更新到V1.0.0后,如果需要预编译功能,需要重新用V1.0.0 rknn-toolkit生成rknn模型,rknn-toolkit V1.0.0之前版本生成的rknn预编译模型运行在V1.0.0环境中会有兼容性问题。
3.此次更新可以大幅减少预编译模型的加载时间,模型转换时需要开启pre_compile

更新方法:
1.Linux更新:
  sudo dnf clean all
  sudo dnf update -y
  更新完成后需要重启开发板。
  版本确认:
[toybrick@localhost ~]$ rpm -aq rknn-api npuservice
npuservice-1.0.3-1.rockchip.fc28.aarch64
rknn-api-0.9.5-2.rockchip.fc28.aarch64
运行时版本打印如下:
D RKNNAPI: ==============================================
D RKNNAPI: RKNN VERSION:
D RKNNAPI:   API: 0.9.5 (a949908 build: 2019-05-07 22:20:43)
D RKNNAPI:   DRV: 0.9.6 (c12de8a build: 2019-05-06 20:10:17)
D RKNNAPI: ==============================================


2.Android更新(5月14日起才可以更新):
下载官方更新的固件:http://t.rock-chips.com/wiki.php?mod=view&pid=4

=========================================== 华丽的分割线 ===========================================================

rknn-toolkit-V0.9.9
官方已发布rknn-toolkit-0.9.9版本,网盘下载地址:https://eyun.baidu.com/s/3qZUVUEg
changelog:
2019-03-06
版本:v0.9.9
1. 新增eval_memory接口,用来获取模型运行时的内存使用情况。
2. inference接口优化;错误信息优化。
3. init_runtime接口优化。

另外,建议更新scipy与onnx版本(网盘上已更新至scipy-1.2.0与onnx-1.4.1):
pip3 install scipy-1.2.0-cp36-cp36m-linux_aarch64.whl
pip3 install onnx-1.4.1-cp36-cp36m-linux_aarch64.whl


rknn-api-V0.9.4
网盘下载地址:https://eyun.baidu.com/s/3dzAtcy
changelog:
修复 channel_mean 没有生效的问题

1.Linux更新:
  sudo dnf clean all
  sudo dnf update
2.Android更新:
repo sync更新Android工程,编译新固件

=========================================== 华丽的分割线 ===========================================================
  
V0.9.8.1
临时版本rknn-toolkit-0.9.8.1已发布到官方网盘,下载地址:rknn-toolkit-0.9.8.1

该版本为临时版本,主要修复了inference接口耗时过久的bug,实测可以提升20倍速度。

考虑到很多童鞋反馈这个问题,因此先发布了修复这个bug的临时版本。

赶紧更新安装测试看看吧!

=========================================== 华丽的分割线 ===========================================================
  
V0.9.8
官方已发布rknn-toolkit-0.9.8版本,下载地址:rknn-toolkit-0.9.8
该版本新增调试模式功能:通过在初始化RKNN对象时设置verbose和verbose_file参数,用户可以看到模型加载、构建等阶段的详细日志信息,并写到指定的文件中。
举例如下:

  1. #  将详细的日志信息输出到屏幕,并写到 mobilenet_build.log 文件中
  2. rknn = RKNN(verbose=True, verbose_file='./mobilenet_build.log')
  3. #  只在屏幕打印详细的日志信息
  4. rknn = RKNN(verbose=True)

  5. rknn.release()
复制代码


有兴趣的童鞋可以更新安装使用了。











回复

使用道具 举报

慢慢的大米饭

新手上路

积分
43
发表于 2019-2-15 14:39:17 | 显示全部楼层
已安装并按照要求输出日志,caffe模型转换失败 请帮忙查看下 谢谢了
回复

使用道具 举报

someone9388

注册会员

积分
66
发表于 2019-2-21 14:16:25 | 显示全部楼层
[toybrick@localhost rknn_test]$ python3 rknn_transfer.py
/usr/lib64/python3.6/site-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.
  from ._conv import register_converters as _register_converters
--> Init runtime environment
Traceback (most recent call last):
  File "rknn_transfer.py", line 12, in <module>
    ret = rknn.init_runtime(host='rk3399pro')
TypeError: init_runtime() got an unexpected keyword argument 'host'
回复

使用道具 举报

程子

中级会员

积分
381
发表于 2019-2-21 15:08:42 | 显示全部楼层
someone9388 发表于 2019-2-21 14:16
[toybrick@localhost rknn_test]$ python3 rknn_transfer.py
/usr/lib64/python3.6/site-packages/h5py/__ ...

如果你用的RKNN 0.9.8,此处host应该改为target。
回复

使用道具 举报

karbon

注册会员

积分
62
发表于 2019-2-23 10:23:12 | 显示全部楼层
用python的API做目标检测 一秒多才能有一帧
回复

使用道具 举报

zhangzj

超级版主

积分
404
 楼主| 发表于 2019-2-25 09:27:51 | 显示全部楼层
karbon 发表于 2019-2-23 10:23
用python的API做目标检测 一秒多才能有一帧

这个是rknn Python包inference接口耗时有bug,下个版本会解决
回复

使用道具 举报

程子

中级会员

积分
381
发表于 2019-2-26 23:45:20 | 显示全部楼层
赞      
回复

使用道具 举报

Lee

注册会员

积分
109
发表于 2019-2-27 11:59:33 | 显示全部楼层
您好,请问时只有arm rknn_toolkit-0.9.8.1-cp36-cp36m-linux_aarch64.whl更新啦吗?还是其他python版本和架构也更新了?
回复

使用道具 举报

程子

中级会员

积分
381
发表于 2019-2-27 12:03:23 | 显示全部楼层
Lee 发表于 2019-2-27 11:59
您好,请问时只有arm rknn_toolkit-0.9.8.1-cp36-cp36m-linux_aarch64.whl更新啦吗?还是其他python版本和 ...

应该是只有arm的更新了,毕竟修的BUG是在板子上的BUG。
回复

使用道具 举报

Lee

注册会员

积分
109
发表于 2019-2-27 12:11:07 | 显示全部楼层
程子 发表于 2019-2-27 12:03
应该是只有arm的更新了,毕竟修的BUG是在板子上的BUG。

哦,顺便咨询下,那开发板连到pc板上跑,和直接在板子上跑 ,差异大吗?pc连开发板,是不是实际也跑的arm
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 wiki教程 关于Toybrick


快速回复 返回顶部 返回列表