FusedBatchNormV3 support

jefferyzhang 发表于 2020-3-24 16:04
Yes, it is a perf without quantization.
You must set do_quantization=True, and run again.

我在你的代码中看到有这么一句话，
# Workaround RKNN 1.1.0 bug
想问问是遇到了什么样的bug。
我遇到了一个sortmax层相关的bug，
其输出的结果在rknn和在直接pycharm调用pb模型上输出的结果有较大差异

jefferyzhang 发表于 2020-12-23 11:57
这个bug早在1.2.0就解决了。。。

再问一下，我把模型用一张图片进行量化之后速度达到7帧左右，还有什么办法能提高速度吗

jefferyzhang 发表于 2020-12-24 14:13
可以进置顶帖qq群里跟他们讨论下。

问了，没人理，，，我用一张图像量化FPS是6.65，用两百张图像反而成了6.63。用的是python接口，连接1808评价得到的。

1.     # Config for Model Input PreProcess
   
2.     rknn.config(channel_mean_value='127.5 127.5 127.5 127.5', reorder_channel='0 1 2',batch_size = 8)
   
3.     #rknn.config(channel_mean_value='0 0 0 1', reorder_channel='0 1 2')
   
4. 
   
5.     # Load TensorFlow Model
   
6.     print('--> Loading model')
   
7.     rknn.load_tensorflow(tf_pb='./model.pb',
   
8.                          inputs=['lanenet/input_tensor'],
   
9.                          outputs=['lanenet_model/vgg_frontend/vgg16_decode_module/binary_seg_decode/binary_final_logits/binary_final_logits'],
   
10.                          input_size_list=[[256, 512, 3]])
    
11.     print('done')
    
12. 
    
13.     # Build Model
    
14.     print('--> Building model')
    
15.     rknn.build(do_quantization=True, dataset='./dataset.txt')
    
16.     print('done')
    
17. 
    
18.     print('--> Begin evaluate model performance')
    
19.     perf_results = rknn.eval_perf(inputs=[img])                #评估模型性能。 返回模型在硬件上运行的总时间
    
20.     print('done')

复制代码