rknn-toolkit & rknn-api for Toybrick

rk3399pro 的drv怎么更新呢， 有没有deb包用来更新

dylan 发表于 2021-11-2 13:53
rk3399pro 的drv怎么更新呢， 有没有deb包用来更新

toybrick的板子直接apt update/upgrade就可以更新，不是toybrick的板子请联系板卡提供商。

RockX-1.4.4里的librockx.so好像是旧版本？请问在哪里能下到新的

AttributeError: /home/toybrick/.local/lib/python3.7/site-packages/rockx/sdk/rockx-rk3399pro-Linux/lib64/librockx.so: undefined symbol: rockx_carplate_align_v2

你好，rv1126的板子想升级npu的驱动，需要怎么操作呢？有没有参考的文档

問一個問題..關於 3566跟 1808的效能
1808 效能 3TOPs  , 3566 0.8Tops@INT8

我是在Android 的平台上使用

能理解，軟體, Framewrok , 有可能是完全兩套，tool-kit也是獨立 !!

同一個模型 RsNet100 , 每一次的推理時間
3399+1808
量化後 d16 - 230ms
3566
不量化 - 160ms

基本上轉成int8效能都差不多，但是3566的不量化(f16) 竟然比 1808 (int16) 還好??
能理解TOPs都是描述int8, 不過這結果蠻出乎意料的..

1808 3TOPs  vs 3566 0.8TOPs
比較起來
int 8 結果 效能差不多
但是
3566 不量化 比 1808 int6 還要好 ??

以上是不影響開發，不過想知道問題點？？

備註
1. 都有評測精度，都相同.
2. 1808 如果不量化，效能很差，所以不列入測試

nijiwu 发表于 2021-12-29 23:31
問一個問題..關於 3566跟 1808的效能
1808 效能 3TOPs  , 3566 0.8Tops@INT8

两个NPU架构不一样，你可以从rknntoolkit提供的优化文档中看出一点端倪，
1808是早期设计的NPU处理器，满足了当时最流行的网络cell结构， 在conv3x3-maxpool-relu 做了硬件优化，但在现在明显可以看出这三个op组成的cell已经过时了，所以如果你的网络是以这三个op作为cell的话，用1808性能是完全能跑赢RK35系列芯片所带的NPU的。而如果有其他的op结构，就会造成1808运算速度反而更慢，发挥不出他的最佳性能。

RK1808M0如何升级到最新版的rknn-toolkit？
直接使用sudo apt update -> sudo apt upgrade吗？
是否需要根据https://github.com/rockchip-linux/rknpu里的README.md手动复制文件去更新npu驱动？

现在rknn-1.7.0.是最新版吗？1.7.1是不是还没更新到源里？
sudo apt upgrade后，输入dpkg -l | grep rknn查询版本输出以下信息：
rknn-rk1808                   1.7.0-1                      arm64        Rockchip rknn toolkits for rk1808