RK3399Pro入门教程（9）MNIST RKNN量化教程

显示全部楼层 · 发表于 2019-11-8 15:16:14

rk3399pro上运行rknn_transfer.py:失败，这个不能再板子上运行吗？

显示全部楼层 · 发表于 2019-11-8 18:12:38

在pc上运行成功，我想问mnist.rknn 6.25MB； mnist_frozen_graph.pb为12.4MB，为啥common_transfer转换后权重为pb权重大小的一半呢？

显示全部楼层 · 发表于 2019-11-8 18:44:32

量化quantized_dtype='dynamic_fixed_point-8'的模型是mnist_quantization.rknn大小为3.13MB是mnist.rknn（6.25MB）权重大小的一半； mnist.rknn 6.25MB是 mnist_frozen_graph.pb（12.4MB）权重大小的一半；
是不是mnist_frozen_graph.pb对应数据类型：float 32;
mnist.rknn对应数据类型是int16；
mnist_quantization.rknn对应数据类型是int8?