rknn-toolkit & rknn-api for Toybrick

我提点建议,  我建议将rknn tool  kit 拆分成多个不同的项目,  
可以考虑拆分成模型转换工具 和 rknn模型运行工具.  
因为模型的转换需要大量的计算,  放在开发板上往往是资源不够的.  .  
模型转换工具应该拆分成多个小项目.  这样就可以拆开依赖关系.  
例如我现在只用到pytorch,  不用tensorflow.  为了装rknn就不得不装个tensorflow , 而且tensorflow还有各种各样的版本问题. 这就导致问题复杂化了.
我为了能跑rknn的代码折腾了好久好久最起码半个月.    问题一大堆 .  各种版本问题. 到现在还没搞起来..
所以项目应该分成下面这几个小项目. 不要混到一起
pytorch模型转rknn模型的项目
tensorflow模型转rknn模型的项目
onnx模型转rknn模型的项目
等等.
然后再独立出一个在开发板上跑rknn的runtime 项目.
我现在为了用rknn 真是麻烦的要死. 这个得赶紧解决.  影响销量了.

jefferyzhang 发表于 2021-8-6 11:33
rknntoolkit-lite了解下

辛苦多日不如你一句话呀..   为啥不在主说明书上写明白呢????  害我在开发板上装了半个月的 RKNN-ToolKit.

这个RKNN-ToolKit-lite  得改个名字.  一般看到这个lite 想到的都是轻量化, 肯定是少了很多东西的版本...  谁曾想是完全不一样的两个东西. ..  你们还是分开两个项目吧. 看到名字就能懂的那种.  一个叫RKNN Model Converter  一个叫 RKNN Runtime 多容易懂.   

请各个版本能够提供各平台完善的whl包.  例如 rknn_toolkit-1.6.0-cp37-cp37m-linux_x86_x64.whl 的就没有.    这个做为基础的工作希望厂方能够做的完善一些.

jefferyzhang 发表于 2021-8-6 14:29
你这个可以和rknn qq群里NPU部门的人提，我们不是NPU部门的

我觉得不妥， 我们不知道你们得NPU部门是那个， 也不知道找谁，  我只知道这个论坛是窗口。  麻烦你转达一下吧。

1. 
   
2. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:523: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
   
3.   _np_qint8 = np.dtype([("qint8", np.int8, 1)])
   
4. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:524: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
   
5.   _np_quint8 = np.dtype([("quint8", np.uint8, 1)])
   
6. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:525: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
   
7.   _np_qint16 = np.dtype([("qint16", np.int16, 1)])
   
8. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:526: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
   
9.   _np_quint16 = np.dtype([("quint16", np.uint16, 1)])
   
10. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:527: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
    
11.   _np_qint32 = np.dtype([("qint32", np.int32, 1)])
    
12. D:\Anaconda3\envs\python368\lib\site-packages\tensorflow\python\framework\dtypes.py:532: FutureWarning: Passing (type, 1) or '1type' as a synonym of type is deprecated; in a future version of numpy, it will be understood as (type, (1,)) / '(1,)type'.
    
13.   np_resource = np.dtype([("resource", np.ubyte, 1)])
    
14. --> Loading model
    
15. F:\project\AI\Pytorch_DeepLabV3Plus\aimodels\epoch_2\deeplabv3model.pth.pt ********************
    
16. done
    
17. --> Building model
    
18. E Catch exception when building RKNN model!
    
19. E Traceback (most recent call last):
    
20. E   File "rknn\api\rknn_base.py", line 578, in rknn.api.rknn_base.RKNNBase.build
    
21. E   File "rknn\api\rknn_base.py", line 1477, in rknn.api.rknn_base.RKNNBase._quantize2
    
22. E FileNotFoundError: [Errno 2] No such file or directory: 'dataset.txt'
    
23. done
    
24. E RKNN model data is None, please load model first!
    
25. E RKNN model data is None, please load model first!
    
26. Export deeplabv3model.rknn failed!
    

复制代码

开了量化一定要有dataset.txt这个文件么?
这个文件是干啥用的?内容是啥?