rknn-toolkit & rknn-api for Toybrick

(BETA版本，有问题请及时反馈)


rknn-toolkit （for 3399pro/1808/1126/1109）

1. Baidu Cloud: https://eyun.baidu.com/s/3eTG3VsY   (pwd：rknn)
2. Onedrive：https://rockchips-my.sharepoint.com/:f:/g/personal/addy_ke_rockchips_onmicrosoft_com/EkQBzgZ6fmJFlZRLf6AjL_0BcEn9uGzNVovRkKxWEboA8g?e=J5rjYS
3. Github: https://github.com/rockchip-linux/rknn-toolkit
4. pip3 install (<- suggestion in toybrick board)


Depandency install (e.g. debian10)：

1. sudo apt install cmake python3-scipy python3-h5py libprotobuf-dev protobuf-compiler zlib1g-dev libjpeg-dev python3-dev python3-opencv

复制代码

Install tensorflow 1.14.0 for debian aarch64 or 1.10.0 for fedora aarch64：

1. pip3 install --user -U tensorflow==1.14.0

复制代码

Install rknn toolkit：

RK3399Pro (Toybrick Only)：

1. pip3 install --user -U rknn-toolkit

复制代码
RK3399Pro OR RK1808 (Computer Strick)  (Predict Only):

1. pip3 install --user -U rknn-toolkit-lite

复制代码

rknn-toolkit2 (for 35xx)

1. Github: https://github.com/rockchip-linux/rknn-toolkit2
2. Baidu Cloud：https://eyun.baidu.com/s/3jJ4k51s  （pwd：rknn）


rknn-api-1.7.0

1. GitHub：
* for 1808: https://github.com/rockchip-linux/rknpu
* for other platforms: https://github.com/rockchip-linux/RKNPUTools
2. Baidu Cloud: https://eyun.baidu.com/s/3kXoPFuf    (pwd: uMuA)
3. Onedrive: https://rockchips-my.sharepoint. ... f1OJODES1g?e=ZSjbAo
4. apt update ; apt install (<- debian10 suggestion)

rk3399pro:

1. sudo apt install rknn-rk3399pro
   
2. (or)
   
3. sudo dnf install rknn-rk3399pro

复制代码
rk1808 computer stric:

1. sudo apt install rknn-rk1808
   
2. (or)
   
3. sudo dnf install rknn-rk1808

复制代码
OR:

1. sudo apt update -y

复制代码


Rock-X SDK:
(The RockX of 1126 and 1109 are the same)


1. Baidu Cloud:  链接：https://eyun.baidu.com/s/3bqSfrkz 密码：rockx
2. Onedrive：https://rockchips-my.sharepoint. ... vqQbWAHmzA?e=Wc4V4X

V1.6.0 主要说明：

1. 支持Keras框架，并且支持TF 2.0导出的h5模型
2. 支持Pytorch 1.6.0
3. 支持ONNX 1.6.0
4. 增加模型加密功能
5. 新增更多OP支持以及Bug修复

Drv需要更新到 >= 1.5.0


------------------------------------



V1.4.0 主要说明：

1. 增加逐层量化分析子功能；
2. 输入预处理支持多个std_value；
3. 支持从开发板导出预编译模型。
4. 优化channel_mean_value参数，改为mean_values/std_values；
5. 移除load_tensorflow接口中的mean_values和std_values；
6. 可视化完善对多输入的支持，增加对RK1806/RV1109/RV1126的支持；
7. 精度分析功能增加非归一化的余弦距离和欧式距离；
8. 修复已知bug。



------------------------------------


V1.3.0 主要说明：

1. 从该版本开始我们建议各位切换到debian10，并且直接使用apt和pip命令进行在线更新即可（计算棒dnf update）。   
  （debian10发布地址：http://t.rock-chips.com/forum.php?mod=viewthread&tid=1121）
2. rk3399prod Fedora不再支持rknn在线更新，请各位尽早切换到debian10使用。
3. 该版本主要更新了pytorch(1.2)和mxnet的模型支持
4. 该版本新增了RKNN的UI显示功能（具体请看文档）
5. 该版本解决了大部分上一版本用户报的bug，以及优化了加载时间和混合量化等功能。
6. 其他API的变动请仔细看一下文档，该版本改进较大，请务必先通读一遍文档。
7. 从该版本开始API和DRV版本号将会统一（例如1.3.0/1.3.0），如果俩个版本号大版本不一致，即不匹配。
8. 报问题时候请务必先确认API和DRV版本匹配，并使用的是rknn-toolkit最新版本 (1.3.0)


------------------------------------


V1.2.0 主要说明：

1. 建议添加RK官方pip源安装，较为方便，开发版、PC、MAC均可使用该源下载rknn-toolkit。（新版固件会自带该源）
2. Tensorflow for aarch64已纳入该官方pip源，可直接安装。
3. Tensorflow 2.0 由于一些第三方库还未支持，目前rknn暂不支持tf2.0，请勿升级使用。
4. 附带的文档需要从百度网盘下载：https://eyun.baidu.com/s/3nwnPxsX
5. rknntoolkit和rknnapi需要版本匹配，模型如果早于rknntoolkit 1.1以前生成的需要重新生成，否则运行可能会出问题。
      API: 1.2.1
      DRV: 0.9.9/1.2.0  

Please give download link on OneDrive.
Thanks

brunolin 发表于 2019-10-30 09:51
Please give download link on OneDrive.
Thanks

Added

你好 官方下载最新的fedora的纯linux镜像。rknn1.2.0
按照上面提示方法，pip升级1.2.1，折腾几遍了都是失败，能帮忙看看什么原因吗？
安装完系统，没有做其他配置的情况下。

[toybrick@toybrick work]$ pip3 install --user -U tensorflow==1.14.0
Collecting tensorflow==1.14.0
  Could not find a version that satisfies the requirement tensorflow==1.14.0 (from versions: 1.10.1)
No matching distribution found for tensorflow==1.14.0
[toybrick@toybrick work]$ ls /etc/pip.conf
/etc/pip.conf
[toybrick@toybrick work]$ cat /etc/pip.conf
[global]
extra-index-url = http://repo.rock-chips.com/pypi/simple
trusted-host = repo.rock-chips.com
[toybrick@toybrick work]$
[toybrick@toybrick work]$
[toybrick@toybrick work]$ cat /proc/version
Linux version 4.4.167 (kfx@inno) (gcc version 6.3.1 20170404 (Linaro GCC 6.3-2017.05) ) #78 SMP Wed Aug 21 09:15:51 CST 2019
[toybrick@toybrick work]$

米小二 发表于 2019-10-30 14:45
你好 官方下载最新的fedora的纯linux镜像。rknn1.2.0
按照上面提示方法，pip升级1.2.1，折腾几遍了都是失败 ...

fedora只能： pip3 install --user -U tensorflow==1.10.0

我上头有写，看你那样子应该已经装了 (from versions: 1.10.1)，就可以pass这部了

直接跳过上面的一步：pip3 install --user -U tensorflow==1.14.0

执行：pip3 install --user -U rknn，会中断，不知是否能给出一些建议。

会出现以下错误情况：
  ----------------------------------------
  Failed building wheel for h5py
  Running setup.py clean for h5py
  Running setup.py bdist_wheel for Pillow ... error


  ----------------------------------------
  Failed building wheel for Pillow
  Running setup.py clean for Pillow
  Running setup.py bdist_wheel for numpy ... done


    ----------------------------------------
Command "/usr/bin/python3 -u -c "import setuptools, tokenize;__file__='/tmp/pip-build-hppw_6k2/h5py/setup.py';f=getattr(tokenize, 'open', open)(__file__);code=f.read().replace('\r\n', '\n');f.close();exec(compile(code, __file__, 'exec'))" install --record /tmp/pip-eh73ou6d-record/install-record.txt --single-version-externally-managed --compile --user --prefix=" failed with error code 1 in /tmp/pip-build-hppw_6k2/h5py/
[toybrick@toybrick work]$
[toybrick@toybrick work]$


[toybrick@toybrick work]$ pip3 list |grep tensor
DEPRECATION: The default format will switch to columns in the future. You can use --format=(legacy|columns) (or define a format=(legacy|columns) in your pip.conf under the [list] section) to disable this warning.
tensorboard (1.10.0)
tensorflow (1.10.1)

米小二 发表于 2019-10-30 15:19
直接跳过上面的一步：pip3 install --user -U tensorflow==1.14.0

执行：pip3 install --user -U rknn，会 ...

Fedora的先参看 wiki安装：http://t.rock-chips.com/wiki.php?mod=view&id=36

基本思想就是能dnf install的就不pip install

jefferyzhang 发表于 2019-10-30 15:39
Fedora的先参看 wiki安装：http://t.rock-chips.com/wiki.php?mod=view&id=36

基本思想就是能dnf instal ...

好的 谢谢及时的回复。

rk3399pro的fedora版本还只支持到tf 1.10，无法跟随rk1.2.1升级到rf 1.14？

米小二 发表于 2019-10-30 15:45
好的 谢谢及时的回复。

rk3399pro的fedora版本还只支持到tf 1.10，无法跟随rk1.2.1升级到rf 1.14？

好的 谢谢 看到了