rknn-toolkit & rknn-api for Toybrick

请问NPU 1.7.0版本什么时候能更新呢，rknn-toolkit更新1.7.0了，但是npu一直没有更新

rk3399pro 的drv怎么更新呢， 有没有deb包用来更新

dylan 发表于 2021-11-2 13:53
rk3399pro 的drv怎么更新呢， 有没有deb包用来更新

toybrick的板子直接apt update/upgrade就可以更新，不是toybrick的板子请联系板卡提供商。

RockX-1.4.4里的librockx.so好像是旧版本？请问在哪里能下到新的

AttributeError: /home/toybrick/.local/lib/python3.7/site-packages/rockx/sdk/rockx-rk3399pro-Linux/lib64/librockx.so: undefined symbol: rockx_carplate_align_v2

你好，rv1126的板子想升级npu的驱动，需要怎么操作呢？有没有参考的文档

問一個問題..關於 3566跟 1808的效能
1808 效能 3TOPs  , 3566 0.8Tops@INT8

我是在Android 的平台上使用

能理解，軟體, Framewrok , 有可能是完全兩套，tool-kit也是獨立 !!

同一個模型 RsNet100 , 每一次的推理時間
3399+1808
量化後 d16 - 230ms
3566
不量化 - 160ms

基本上轉成int8效能都差不多，但是3566的不量化(f16) 竟然比 1808 (int16) 還好??
能理解TOPs都是描述int8, 不過這結果蠻出乎意料的..

1808 3TOPs  vs 3566 0.8TOPs
比較起來
int 8 結果 效能差不多
但是
3566 不量化 比 1808 int6 還要好 ??

以上是不影響開發，不過想知道問題點？？

備註
1. 都有評測精度，都相同.
2. 1808 如果不量化，效能很差，所以不列入測試

nijiwu 发表于 2021-12-29 23:31
問一個問題..關於 3566跟 1808的效能
1808 效能 3TOPs  , 3566 0.8Tops@INT8

两个NPU架构不一样，你可以从rknntoolkit提供的优化文档中看出一点端倪，
1808是早期设计的NPU处理器，满足了当时最流行的网络cell结构， 在conv3x3-maxpool-relu 做了硬件优化，但在现在明显可以看出这三个op组成的cell已经过时了，所以如果你的网络是以这三个op作为cell的话，用1808性能是完全能跑赢RK35系列芯片所带的NPU的。而如果有其他的op结构，就会造成1808运算速度反而更慢，发挥不出他的最佳性能。

RK1808M0如何升级到最新版的rknn-toolkit？
直接使用sudo apt update -> sudo apt upgrade吗？
是否需要根据https://github.com/rockchip-linux/rknpu里的README.md手动复制文件去更新npu驱动？

现在rknn-1.7.0.是最新版吗？1.7.1是不是还没更新到源里？
sudo apt upgrade后，输入dpkg -l | grep rknn查询版本输出以下信息：
rknn-rk1808                   1.7.0-1                      arm64        Rockchip rknn toolkits for rk1808

toybrick@debian10:~/Desktop/RockX_SDK_V1.4.4_20210623/python/test/image$ python3 rockx_object_detection.py -i object_detection_test.jpg
Traceback (most recent call last):
  File "rockx_object_detection.py", line 12, in <module>
    object_det_handle = RockX(RockX.ROCKX_MODULE_OBJECT_DETECTION, target_device=args.device)
  File "/home/toybrick/.local/lib/python3.7/site-packages/rockx/RockX.py", line 235, in __init__
    self.rockx_base = RockXBase()
  File "/home/toybrick/.local/lib/python3.7/site-packages/rockx/RockXBase.py", line 218, in __init__
    RockXBase._load_library()
  File "/home/toybrick/.local/lib/python3.7/site-packages/rockx/RockXBase.py", line 504, in _load_library
    POINTER(rockx_tensor_t),POINTER(rockx_image_t)]
  File "/usr/lib/python3.7/ctypes/__init__.py", line 369, in __getattr__
    func = self.__getitem__(name)
  File "/usr/lib/python3.7/ctypes/__init__.py", line 374, in __getitem__
    func = self._FuncPtr((name_or_ordinal, self))
AttributeError: /home/toybrick/.local/lib/python3.7/site-packages/rockx/sdk/rockx-rk3399pro-Linux/lib64/librockx.so: undefined symbol: rockx_carplate_align_v2
请问这是个什么错误信息

请问怎么升级rk3399pro安卓开发板的DRV npu驱动版本到1.7.1啊？能详细说说吗？