FaceNet的rknn模型推理结果和pb模型结果不同

环境：PC虚拟机Ubuntu16.04；     rknn_toolkit-1.0.0-cp35-cp35m-linux_x86_64.whl 及其他依赖项。
网络模型：facenet的预训练模型20180402-114759.pb      
                 该模型对应的特征提取网络是 Inception ResNet v1
                （facenet官网 https://github.com/davidsandberg/facenet）


step1 模型转换：(不量化)
1.1

1. from rknn.api import RKNN
   
2. INPUT_SIZE = 160
   
3. 
   
4. if __name__ == '__main__':
   
5. 
   
6.     # Create RKNN object
   
7.     rknn = RKNN(verbose=True, verbose_file='./test1.log')
   
8. 
   
9.     # Config for Model Input PreProcess
   
10.     rknn.config(channel_mean_value='0 0 0 1', reorder_channel='0 1 2')
    
11.     print('config done')
    
12. 
    
13.     #load tensorflow model
    
14.     print('--> Loading model')
    
15.     rknn.load_tensorflow(tf_pb='./20180402-114759.pb',
    
16.                          inputs=['input','phase_train'],
    
17.                          outputs=['InceptionResnetV1/Bottleneck/BatchNorm/Reshape_1'],                        
    
18.                          input_size_list=[[INPUT_SIZE, INPUT_SIZE, 3], [1]])                  
    
19.     print('done')
    
20. 
    
21.     # Build Model
    
22.     print('--> Building model')
    
23.     rknn.build(do_quantization=False)
    
24.     print('done')
    
25. 
    
26.     # Export RKNN Model
    
27.     rknn.export_rknn('./facenet_Reshape_1.rknn')
    
28. 
    
29.     rknn.release()        

复制代码
这样写会报错：
E Catch exception when loading tensorflow model: ./20180402-114759.pb!
T Traceback (most recent call last):
T   File "rknn/api/rknn_base.py", line 137, in rknn.api.rknn_base.RKNNBase.load_tensorflow
T   File "rknn/base/RKNNlib/converter/convert_tf.py", line 482, in rknn.base.RKNNlib.converter.convert_tf.convert_tf.pre_process
T   File "rknn/base/RKNNlib/converter/tensorflowloader.py", line 102, in rknn.base.RKNNlib.converter.tensorflowloader.TF_Graph_Preprocess.pre_proces
T   File "rknn/base/RKNNlib/converter/tensorflowloader.py", line 627, in rknn.base.RKNNlib.converter.tensorflowloader.TF_Graph_Preprocess.calc_2_const
T   File "rknn/base/RKNNlib/converter/tf_util.py", line 371, in rknn.base.RKNNlib.converter.tf_util.TFProto_Util.query_tensor
T   File "rknn/base/RKNNlib/converter/tf_util.py", line 374, in rknn.base.RKNNlib.converter.tf_util.TFProto_Util.query_tensor
T   File "rknn/base/RKNNlib/converter/tf_util.py", line 388, in rknn.base.RKNNlib.converter.tf_util.TFProto_Util.query_tensor
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/framework/ops.py", line 3972, in get_tensor_by_name
T     return self.as_graph_element(name, allow_tensor=True, allow_operation=False)
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/framework/ops.py", line 3796, in as_graph_element
T     return self._as_graph_element_locked(obj, allow_tensor, allow_operation)
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/framework/ops.py", line 3838, in _as_graph_element_locked
T     "graph." % (repr(name), repr(op_name)))
T KeyError: "The name 'phase_train:0' refers to a Tensor which does not exist. The operation, 'phase_train', does not exist in the graph."
done
--> Building model
E Model or data is None, please load model first.
done
E RKNN model data is None, please load model first!

（我看到论坛上一位同学在inputs中添加了‘phase_train’，但是我这里却报错。  链接： http://t.rock-chips.com/forum.php?mod=viewthread&tid=419   ）

1.2
修改 inputs=[], input_size_list=[]：

1.     #load tensorflow model
   
2.     print('--> Loading model')
   
3.     rknn.load_tensorflow(tf_pb='./20180402-114759.pb',
   
4.                          inputs=['input'],
   
5.                          outputs=['InceptionResnetV1/Bottleneck/BatchNorm/Reshape_1'],                        
   
6.                          input_size_list=[[INPUT_SIZE, INPUT_SIZE, 3]])                  
   
7.     print('done')

复制代码没报错，生成了 facenet_Reshape_1.rknn （后面用来做正向推理）


1.3
facenet正向推理，最终得到一个特征向量embeddings，为什么outputs不写“embeddings” 呢？
因为会报错。

1.     #load tensorflow model
   
2.     print('--> Loading model')
   
3.     rknn.load_tensorflow(tf_pb='./20180402-114759.pb',
   
4.                          inputs=['input'],
   
5.                          outputs=['embeddings'],                                             
   
6.                          input_size_list=[[INPUT_SIZE, INPUT_SIZE, 3]])                  
   
7.     print('done')

复制代码出错信息：
I build output layer attach_embeddingsut0
I build input layer input:in0
D Try match Mul embeddings
I Match multiply [['embeddings']] [['Mul']] to [['multiply']]
D Try match Rsqrt embeddings/Rsqrt
W Not match node embeddings/Rsqrt Rsqrt
E Catch exception when loading tensorflow model: ./20180402-114759.pb!
T Traceback (most recent call last):
T   File "rknn/api/rknn_base.py", line 185, in rknn.api.rknn_base.RKNNBase.load_tensorflow
T   File "rknn/base/RKNNlib/converter/convert_tf.py", line 589, in rknn.base.RKNNlib.converter.convert_tf.convert_tf.match_paragraph_and_param
T   File "rknn/base/RKNNlib/converter/convert_tf.py", line 488, in rknn.base.RKNNlib.converter.convert_tf.convert_tf._tf_push_ready_node
T TypeError: 'NoneType' object is not iterable
done
--> Building model
E Model or data is None, please load model first.
done
E RKNN model data is None, please load model first!


从输出信息看，是输出节点名字不匹配？
用tensorboard查看模型：

embeddings模块内部是将网络输出的向量做一个L2-norm，得到最终的特征向量。
红色节点的名字是：embeddings/(embeddings)    （这是一个512维度的向量）
该节点前一个节点的名字是：InceptionResnetV1/Bottleneck/BatchNorm/Reshape_1    （这也是一个512维度的向量）

1.4
当我修改outputs写成
outputs=['embeddings/(embeddings)'],
报错信息：
pu@pu-vm:~/RKNN/demo/facenet$ python3 test1.py
D save dump info to: ./test1.log
config done
--> Loading model
D import clients finished
WARNING: Logging before flag parsing goes to stderr.
W0806 11:09:18.194516 140165858322176 deprecation_wrapper.py:119] From /usr/local/lib/python3.5/dist-packages/rknn/api/rknn.py:62: The name tf.GraphDef is deprecated. Please use tf.compat.v1.GraphDef instead.

W0806 11:09:18.313679 140165858322176 deprecation.py:323] From /usr/local/lib/python3.5/dist-packages/rknn/api/rknn.py:62: extract_sub_graph (from tensorflow.python.framework.graph_util_impl) is deprecated and will be removed in a future version.
Instructions for updating:
Use `tf.compat.v1.graph_util.extract_sub_graph`
E Catch exception when loading tensorflow model: ./20180402-114759.pb!
T Traceback (most recent call last):
T   File "rknn/api/rknn_base.py", line 136, in rknn.api.rknn_base.RKNNBase.load_tensorflow
T   File "rknn/base/RKNNlib/converter/convert_tf.py", line 102, in rknn.base.RKNNlib.converter.convert_tf.convert_tf.__init__
T   File "rknn/base/RKNNlib/converter/tensorflowloader.py", line 50, in rknn.base.RKNNlib.converter.tensorflowloader.TF_Graph_Preprocess.__init__
T   File "rknn/base/RKNNlib/converter/tensorflowloader.py", line 65, in rknn.base.RKNNlib.converter.tensorflowloader.TF_Graph_Preprocess.scan_and_optim_graph
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/util/deprecation.py", line 324, in new_func
T     return func(*args, **kwargs)
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/framework/graph_util_impl.py", line 182, in extract_sub_graph
T     _assert_nodes_are_present(name_to_node, dest_nodes)
T   File "/usr/local/lib/python3.5/dist-packages/tensorflow/python/framework/graph_util_impl.py", line 137, in _assert_nodes_are_present
T     assert d in name_to_node, "%s is not in graph" % d
T AssertionError: embeddings/(embeddings) is not in graph
done
--> Building model
E Model or data is None, please load model first.
done
E RKNN model data is None, please load model first!


从报错信息看，说embeddings/(embeddings) 不在graph中。可是明明在啊。
我后面还尝试过 “embeddings/embeddings”   "(embeddings)" 都不对。那节点名字要怎么写呢？？？？？？



step2
暂且使用上面成功生成的   facenet_Reshape_1.rknn  来做正向推理。
遇到的问题是：rknn模型的输出数据与pb模型不同。
2.1
rknn模型正向推理代码：

1. from rknn.api import RKNN
   
2. import cv2
   
3. import numpy as np
   
4. 
   
5. INPUT_SIZE = 160
   
6. 
   
7. 
   
8. if __name__ == '__main__':
   
9. 
   
10.     # Create RKNN object
    
11.     rknn = RKNN(verbose=True, verbose_file='./test2.log')
    
12. 
    
13.     #load rknn model
    
14.     print('--> Loading rknn model')
    
15.     rknn.load_rknn('./facenet_Reshape_1.rknn')
    
16.     print('done')
    
17. 
    
18.     #set inputs
    
19.     img1 = np.load('image_1.npy')
    
20.     print('img1.type:', type(img1)) #numpy.ndarray
    
21.     print('img1.shape:', img1.shape) #(1,160,160,3)
    
22.   
    
23.     # init runtime environment
    
24.     print('--> Init runtime environment')
    
25.     ret = rknn.init_runtime()
    
26.     if ret != 0:
    
27.         print('Init runtime environment failed')
    
28.         exit(ret)
    
29.     print('done')
    
30. 
    
31.     # Inference
    
32.     print('--> Running model')
    
33.     outputs1 = rknn.inference(inputs=[img1])
    
34.     array1 = np.array(outputs1)
    
35.     print('output_shape:', array1.shape)
    
36.     np.save('./u_Reshape_1.npy', array1)
    
37.     print('done')
    
38.    
    
39.     rknn.release()

复制代码输出数据保存在  u_Reshape_1.npy 文件中。


facenet的pb模型直接做正向推理的代码：（工具：Anaconda + spyder）

1. def main(args):
   
2. 
   
3.     #images = load_and_align_data(args.image_files, args.image_size, args.margin, args.gpu_memory_fraction)
   
4.     images = np.load('./results/image_1.npy')
   
5.     print('images_shape:', images.shape) #(1,160,160,3)   
   
6. 
   
7.     with tf.Graph().as_default():
   
8. 
   
9.         with tf.Session() as sess:
   
10.       
    
11.             # Load the model
    
12.             facenet.load_model(args.model)
    
13.             
    
14.             #test
    
15.             #summary_writer = tf.summary.FileWriter("F:/pyn/spyder_projects/log", sess.graph)
    
16.             #test
    
17.             
    
18.             # Get input and output tensors
    
19.             images_placeholder = tf.get_default_graph().get_tensor_by_name("input:0")
    
20.             phase_train_placeholder = tf.get_default_graph().get_tensor_by_name("phase_train:0")
    
21. 
    
22.             #middle layer
    
23.             node_Reshape_1 = tf.get_default_graph().get_tensor_by_name("InceptionResnetV1/Bottleneck/BatchNorm/Reshape_1:0")
    
24.             
    
25.             # Run forward pass to calculate embeddings
    
26.             feed_dict = { images_placeholder: images, phase_train_placeholder:False }
    
27.             Reshape_1 = sess.run(node_Reshape_1, feed_dict=feed_dict)
    
28.             
    
29.             print('Reshape_1 shape:', Reshape_1.shape)
    
30.             np.save('./results/Reshape_1.npy', Reshape_1)

复制代码输出信息（截取）：
D [rknn_init:940] Input Tensors:
D [printRKNNTensor:853] index=0 name= n_dims=4 dims=[1 160 160 3] n_elems=76800 size=153600 fmt=NHWC type=FP16 qnt_type=NONE fl=-128 zp=85592704 scale=0.000000
D [rknn_init:953] Output Tensors:
D [printRKNNTensor:853] index=0 name= n_dims=2 dims=[0 0 1 512] n_elems=512 size=1024 fmt=NCHW type=FP16 qnt_type=NONE fl=-128 zp=85592704 scale=0.000000
done
--> Running model
D [rknn_inputs_set:1155] 0 pass_through=0
D [rknn_inputs_set:1173] 0 input.type=3

D [__input_copy:656] UINT8->FLOAT16
I [RK_nn_ConvertTensorToData:595]Create 1024 data.
output_shape: (1, 1, 512)
done

输出数据保存在  Reshape_1.npy 文件中。


对比u_Reshape_1.npy 和 Reshape_1.npy两个文件的数据，理论上它们应该是一样的。因为pb模型转换成rknn模型的时候并没有做量化。
但实际上不同。

1. import numpy as np
   
2. 
   
3. pc_data = np.load('./results/Reshape_1.npy')
   
4. u_data = np.load('./results/u_Reshape_1.npy')
   
5. print('pc_data.shape:', pc_data.shape)
   
6. print('u_data.shape:', u_data.shape)
   
7. 
   
8. pc_data = np.squeeze(pc_data)
   
9. pc_data_flat = pc_data.flatten()
   
10. u_data = np.squeeze(u_data)
    
11. print('pc_data_flat.shape:', pc_data_flat.shape)
    
12. print('u_data.shape:', u_data.shape)
    
13. 
    
14. print(pc_data_flat)
    
15. print(u_data)

复制代码
输出：
pc_data.shape: (1, 512)
u_data.shape: (1, 1, 512)
pc_data_flat.shape: (512,)
u_data.shape: (512,)


[-5.74858040e-02  7.62917578e-01 -8.15165758e-01 -1.15798497e+00
-2.25954747e+00 -4.45677876e-01  1.19305098e+00  7.95612752e-01
-1.26038074e+00 -3.16775769e-01  5.00256717e-02  3.58441472e-01
  2.47351110e-01 -2.25165412e-01  6.32283926e-01 -7.77496099e-01
-9.95897710e-01 -1.48216116e+00 -8.97606254e-01 -9.74645317e-01
  1.09282449e-01 -1.73147905e+00  1.52980596e-01  1.66164684e+00
  1.54646719e+00 -8.88299108e-01  3.76475036e-01 -4.77487057e-01 ……]


[ 3.55224609e-01 -7.94433594e-01 -7.58300781e-01  3.95507812e-01
  2.59277344e-01  3.18847656e-01  1.06933594e-01  2.07519531e-01
-4.89501953e-01  1.44409180e-01 -1.46484375e-01  4.59716797e-01
-6.03027344e-01 -3.54736328e-01  1.63940430e-01 -3.79150391e-01
  4.98046875e-01  3.13476562e-01  5.80566406e-01 -4.04296875e-01
  9.24682617e-02  1.11145020e-01  4.24804688e-01 -1.87500000e-01

  1.63940430e-01  1.01852417e-02  4.87304688e-01 -4.87365723e-02 ……]

2.2
这个数据不同，也许是有误差，要看最终能否作为特征向量识别人脸。所以我用4张测试图，预处理后保存在images.npy，然后加载进来，images.shape=(4,160,160,3).
得出 Reshape_1节点的向量后，做 L2-norm，得到最终的embeddings。对比pb模型结果和rknn模型结果。

**pb模型正向推理出embeddings, 并计算这4个向量两两之间的距离：
Distance matrix
        0         1         2         3     
0    0.0000    0.8396    1.4851    1.4614  
1    0.8396    0.0000    1.4103    1.3784  
2    1.4851    1.4103    0.0000    0.4041  
3    1.4614    1.3784    0.4041    0.0000
其中 0/1是同一个人的两张人脸图片，2/3另一个人的两张人脸图片。
可以看出，同一个人的不同照片之间的距离较小，不同人之间的人脸图片距离较大，能够正确识别。

**rknn模型正向推理出embeddings, 并计算这4个向量两两之间的距离：
Distance matrix
                0                        1                        2                        3        
0                0.0000                0.8973                0.7701                0.7091        
1                0.8973                0.0000                0.9278                1.0162        
2                0.7701                0.9278                0.0000                0.5400        
3                0.7091                1.0162                0.5400                0.0000
rknn模型结果就不能识别人脸了。


2.3
那么数据是从哪一层开始不同的呢？
我以 input节点作为输入， 经过一个 conv+relu 后的节点（'InceptionResnetV1/Conv2d_1a_3x3/Relu'）作为输出，比对pb模型和rknn模型数据。

在RK虚拟机中，由于需要提取中间层数据，所以重新build出新的rknn模型。

1.     #load tensorflow model
   
2.     print('--> Loading model')
   
3.     rknn.load_tensorflow(tf_pb='./20180402-114759.pb',
   
4.                          inputs=['input'],
   
5.                          outputs=['InceptionResnetV1/Conv2d_1a_3x3/Relu'],                        
   
6.                          input_size_list=[[INPUT_SIZE, INPUT_SIZE, 3]])                  
   
7.     print('done')

复制代码成功build, 模型保存在 facenet_Conv2d_1a_3x3_Relu.rknn
经过inference之后，得到输出数据，保存在 u_Conv2d_1a_3x3_Relu.npy
output.shape: (1, 1, 199712)， 也就是说把(79,79,32)展开了。

pb模型也推理到节点（'InceptionResnetV1/Conv2d_1a_3x3/Relu'），输出数据保存在Conv2d_1a_3x3_Relu.npy
output.shape:(1, 79, 79, 32)


对比数据

1. import numpy as np
   
2. 
   
3. pc_data = np.load('./results/Conv2d_1a_3x3_Relu.npy')
   
4. u_data = np.load('./results/u_Conv2d_1a_3x3_Relu.npy')
   
5. print('pc_data.shape:', pc_data.shape)
   
6. print('u_data.shape:', u_data.shape)
   
7. 
   
8. pc_data = np.squeeze(pc_data)
   
9. u_data = np.squeeze(u_data)
   
10. u_data_reshape = np.reshape(u_data, (32,79,79))
    
11. print('pc_data.shape:', pc_data.shape)
    
12. print('u_data_reshape.shape:', u_data_reshape.shape)
    
13. 
    
14. print(pc_data[:,:,0])
    
15. print(u_data_reshape[0,:,:])

复制代码输出：
pc_data.shape: (1, 79, 79, 32)
u_data.shape: (1, 1, 199712)
pc_data.shape: (79, 79, 32)
u_data_reshape.shape: (79, 79, 32)

Conv2d_1a_3x3_Relu.npy   (pb模型推理的中间结果)
[[4.496504  3.5792322 3.279057  ... 4.1851587 4.199727  3.9860177]
[4.719177  3.80474   4.060274  ... 4.194205  4.0994143 4.004091 ]
[5.30498   4.7206473 4.2815747 ... 5.621602  5.3078156 4.4923596]
...
[2.477302  2.6923387 2.561545  ... 2.3765404 2.049178  1.906026 ]
[2.5384846 2.833478  2.7111642 ... 2.4625208 2.2596824 2.001416 ]
[2.5216506 3.0539947 3.2769814 ... 2.7133694 2.408282  2.0306435]]

u_Conv2d_1a_3x3_Relu.npy   （rknn模型推理的中间结果）
[[ 93.375   400.      344.75    ... 270.75    261.      367.75   ]
[237.875   195.      222.125   ... 547.      174.25     55.28125]
[578.5     379.25    381.5     ... 368.25    264.75    209.875  ]
...
[347.25    249.      255.125   ... 276.75    266.      251.75   ]
[242.75    238.375   167.      ... 357.5     308.25    290.5    ]
[ 75.375   286.25    340.25    ... 259.25     73.8125  292.5    ]]

从结果看，这两个数据不同，而且数量级都不同。

是否是输入数据有问题呢？
上文中 image_1.npy 是经过预处理的。
(1)原始图像image: [0,255]，
(2)读入后为“RGB” .   img = misc.imread(os.path.expanduser(image), mode='RGB')
(3)再经过归一化函数：

1. def prewhiten(x):
   
2.     mean = np.mean(x)
   
3.     std = np.std(x)
   
4.     std_adj = np.maximum(std, 1.0/np.sqrt(x.size))
   
5.     y = np.multiply(np.subtract(x, mean), 1/std_adj)
   
6.     return y  

复制代码rknn模型build的时候，并没有做任何处理（  rknn.config(channel_mean_value='0 0 0 1', reorder_channel='0 1 2')    ）
那么image_1中的数据格式是 float64，是否可以直接作为rknn模型的输入呢？
在pc端运行pd模型的时候，也是输入的image_1.npy。两者输入是一样的，但rknn模型是否支持呢？会不会自己内部转换呢？



总结两个问题：
1. rknn模型在build的时候，input 、output 列表要怎么写？
参考tensorboard可视化出来的节点名字(  "embeddings/(embeddings)"  )为什么会出错？
2. rknn模型推理出来的数据和pd模型推理出来的数据不同，而且是经过第一个(conv+relu)之后数据就不同了。数量级都不同。
以上是哪里理解错了？

从代码里看，
1. 你的traning node没有关闭，推理时候引入training node是有可能造成结果随机的，特别是带dropout时候
2. inputoutput是代码里定义的，可以知道，不知道的话直接print 那层.name 就可以知道。也可以下载netron这个app来看模型，列出来的name是完整的
3. 推理出来数据不同可能原因就是同第一点，你的traning node没去掉，带有一些特殊训练的op。 第二就是先关闭量化看看结果是否一致。 第三，input数据的归一化设置是否正确

jefferyzhang 发表于 2019-8-7 10:01
从代码里看，
1. 你的traning node没有关闭，推理时候引入training node是有可能造成结果随机的，特别是带d ...

    rknn.load_tensorflow(tf_pb='./20180402-114759.pb',
                         inputs=['input','phase_train'],
                         outputs=['embeddings'],                        
                         input_size_list=[[INPUT_SIZE, INPUT_SIZE, 3], [1]])
输入输出节点名字我对照过了，是这样子的。而且这个pb模型是可以跑通的。pb模型正向推理的代码截取：
            # Get input and output tensors
            images_placeholder = tf.get_default_graph().get_tensor_by_name("input:0")
            phase_train_placeholder = tf.get_default_graph().get_tensor_by_name("phase_train:0")
            embeddings = tf.get_default_graph().get_tensor_by_name("embeddings:0")

            # Run forward pass to calculate embeddings
            feed_dict = { images_placeholder: images, phase_train_placeholder:False }
            emb = sess.run(embeddings, feed_dict=feed_dict)

但是我在rk虚拟机里报错“T KeyError: "The name 'phase_train:0' refers to a Tensor which does not exist. The operation, 'phase_train', does not exist in the graph."”

node {
  name: "phase_train"
  op: "Placeholder"
节点类型是“Placeholder”，不能作为输入吗？

请问还有什么办法可以设置 phase_train:False? 也就是training node 如何关掉呢？

jefferyzhang 发表于 2019-8-7 10:01
从代码里看，
1. 你的traning node没有关闭，推理时候引入training node是有可能造成结果随机的，特别是带d ...

我上面的代码中没有开量化  rknn.build(do_quantization=False) 。

input数据的归一化问题：
rknn的归一化方式固定，如果是其他形式的归一化就无法做到了。
channel_mean_value：包括四个值(M0 M1 M2 S0)
Cout0 = (Cin0 - M0)/S0
Cout1 = (Cin1 - M1)/S0
Cout2 = (Cin2 - M2)/S0

而我下载的facenet项目归一化方式不同，首先读取image:0-255，再将"BGR"转换成“RGB”，再送入预处理函数
def prewhiten(x):
    mean = np.mean(x)
    std = np.std(x)
    std_adj = np.maximum(std, 1.0/np.sqrt(x.size))
    y = np.multiply(np.subtract(x, mean), 1/std_adj)
    return y

我把数据事先做好归一化，保存到npy中，再读取npy作为rknn的输入，不需要rknn模型做任何归一化，所以config设置成这样：
rknn.config(channel_mean_value='0 0 0 1', reorder_channel='0 1 2')
我的理解有错误吗？


如果理解没有错，请问 "E Catch exception when loading tensorflow model: ./20180402-114759.pb!" 这个问题还应该从哪方面考虑呢？

pb用tensorflow载入跑过么？

jefferyzhang 发表于 2019-8-8 13:56
pb用tensorflow载入跑过么？

跑过的，就是 https://github.com/davidsandberg/facenet 这个项目，src/compare.py载入pb模型，正向推理，结果正确的。

哦，刚看出来，你这里多输入了，目前rknn只支持单输入多输出。
所以你模型固化时候phase_train要固化成固定值，或者使用npz传入，具体可以看看文档。

jefferyzhang 发表于 2019-8-9 12:51
哦，刚看出来，你这里多输入了，目前rknn只支持单输入多输出。
所以你模型固化时候phase_train要固化成固定 ...

谢谢版主回复，我去试一下重新生成固化模型。

puyanan 发表于 2019-8-9 16:35
谢谢版主回复，我去试一下重新生成固化模型。

楼主你好，你的问题解决了吗？怎么解决的？

分享下可以转faceNet模型的Pb文件. 输入输出如下,pb 链接为 可以转rknn的faceNet的pb模型
提取码: y3uc
inputs=['input_1'],
outputs=['strided_slice'],
input_size_list=[[160, 160, 3]].