使用RKNN-Toolkit对tensorflow模型转换失败

1. /usr/lib64/python3.6/site-packages/h5py/__init__.py:36: FutureWarning: Conversion of the second argument of issubdtype from `float` to `np.floating` is deprecated. In future, it will be treated as `np.float64 == np.dtype(float).type`.
   
2.   from ._conv import register_converters as _register_converters
   
3. --> Init runtime environment
   
4. done
   
5. --> Loading model
   
6. Catch exception when loading tensorflow model: XXXXXXXX.pb!
   
7. Traceback (most recent call last):
   
8.   File "/usr/local/lib64/python3.6/site-packages/rknn/api/rknn.py", line 50, in load_tensorflow
   
9.     std_values=std_values)
   
10.   File "rknn/api/redirect_stdout.py", line 67, in rknn.api.redirect_stdout.redirect_stdout.func_wrapper
    
11.   File "rknn/api/redirect_stdout.py", line 68, in rknn.api.redirect_stdout.redirect_stdout.func_wrapper
    
12.   File "rknn/api/rknn_base.py", line 185, in rknn.api.rknn_base.RKNNBase.load_tensorflow
    
13.   File "rknn/base/rknnlib/converter/convert_tf.py", line 533, in rknn.base.rknnlib.converter.convert_tf.convert_tf.match_paragraph_and_param
    
14.   File "rknn/base/rknnlib/converter/convert_tf.py", line 438, in rknn.base.rknnlib.converter.convert_tf.convert_tf._tf_push_ready_node
    
15. TypeError: 'NoneType' object is not iterable
    
16. 
    
17. done
    
18. --> Building model
    
19. done
    
20. Export RKNN model failed!
    

复制代码转换代码使用wiki里面的 http://t.rock-chips.com/wiki.php?mod=view&id=36 。
模型PB文件不便公开。但是可以通过tensorflow的TOCO转换为tflite并且成功用CPU推理。

麻烦重新用下最新版rknn-toolkit 0.9.8 初始化时候带上verbose参数重新运行下，然后把verbose打印贴上来，这样就不需要pb文件了

rknn-toolkit 0.9.8   去哪里下载呢？

qiaoqiang126 发表于 2019-2-13 15:42
rknn-toolkit 0.9.8   去哪里下载呢？

不好意思，github上的同事还没更新，我单独给你一个百度网盘地址先用吧
链接: https://pan.baidu.com/s/1ypkndmI7P62W8DWf0AW5ew 提取码: qhhy

1. D import clients finished
   
2. I Current TF Model producer version 0 min consumer version 0 bad consumer version []
   
3. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
   
4. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
   
5. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
   
6. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
   
7. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
   
8. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
   
9. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
   
10. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
11. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
12. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
13. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
14. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
15. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
16. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
17. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
18. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
19. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
20. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
21. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
22. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
23. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
24. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
25. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
26. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
27. I short-cut <一个Op名字>:out0 - <一个Op名字>:in0 skip <一个Op名字>/read
    
28. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
29. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
30. I short-cut <一个Op名字>:out0 - <一个Op名字>:in1 skip <一个Op名字>/read
    
31. I Have 16 tensors convert to const tensor
    
32. [<一堆Op的List>]
    
33. I build output layer <一个Op名字>:out0
    
34. I build input layer input_image:out0
    
35. I Try match BiasAdd <一个Op名字>
    
36. I Match [[<一堆Op的List>]] [['BiasAdd', 'DConv', 'C', 'C_1', 'C_2']] to [['deconvolution']]
    
37. I Try match Mul <一个好像有问题的Op>/mul
    
38. I Match [['<一个好像有问题的Op>/mul']] [['Mul']] to [['multiply']]
    
39. I Try match Sqrt <一个好像有问题的Op>/Sqrt
    
40. W Not match node <一个好像有问题的Op>/Sqrt Sqrt
    
41. E Catch exception when loading tensorflow model: TNG_RKNN.pb!
    
42. T Traceback (most recent call last):
    
43. T   File "rknn/api/rknn_base.py", line 191, in rknn.api.rknn_base.RKNNBase.load_tensorflow
    
44. T   File "rknn/base/rknnlib/converter/convert_tf.py", line 533, in rknn.base.rknnlib.converter.convert_tf.convert_tf.match_paragraph_and_param
    
45. T   File "rknn/base/rknnlib/converter/convert_tf.py", line 438, in rknn.base.rknnlib.converter.convert_tf.convert_tf._tf_push_ready_node
    
46. T TypeError: 'NoneType' object is not iterable
    
47. model_input or data_input or model_quantize is None, please check it.
    

复制代码

1. Not match node <一个好像有问题的Op>/Sqrt Sqrt

复制代码
意思是Sqrt这个算子不支持吗？还是啥？

1. model_input or data_input or model_quantize is None, please check it.

复制代码
这句话又是什么意思？model_input data_input model_quantize 是应该在哪里的？

I Try match Sqrt <一个好像有问题的Op>/Sqrt
W Not match node <一个好像有问题的Op>/Sqrt Sqrt
E Catch exception when loading tensorflow model: TNG_RKNN.pb!

应该是这个op不支持，能否贴出这几行实际的打印信息？

去掉了相关OP，模型转换似乎成功了，文件大小比PB文件小了一半，但是转换的时候并没有量化 (rknn.build(do_quantization=False))，不知道为什么。推理也跑通了。

出现问题的应该是GDN中的Sqrt算子，计算方式如下：

1. y[i] = x[i] / sqrt(beta[i] + sum_j(gamma[j, i] * x[j]))

复制代码

除了论坛以外有没有其他快一点的交流空间？比如QQ微信啥的。或者我们可以自己建个群吗？

程子 发表于 2019-2-14 11:46
去掉了相关OP，模型转换似乎成功了，文件大小比PB文件小了一半，但是转换的时候并没有量化 (rknn.build(do_ ...

目前还只有论坛一个交流空间，后续若有建qq微信群会发布出来。
如果你有兴趣，也可以组建一个兴趣爱好交流群，发个帖子出来让大家知道，有兴趣的童鞋会加进去交流的。