3399pro的量化精度

你好。请问测试的是什么网络？测试集及测试方法是怎么样的？

精度需要用一个测试集来测，尽量用大点的数据集。单张图片有些置信度可能提高，有些可能降低。

nila 发表于 2019-2-27 19:55
我们比较关心256维特征向量的偏差，每个置信度的偏差都会影响到最后的结果。
是否有不同量化的相关测试结 ...

不同的图片，它的置信度偏差是会不同的，所以看精度的时候，还是需要多测不同的图片。我们也测了下TensorFlow resnet101v1的精度，原始模型精度top1是76.126%，top5是92.824%，用asymmetraic_quantized-u8量化后精度top1 75.636%，top5 92.908%，top1只降了0.5%不到。
quantization=false的是也可能会有一点偏差，我们在加载原始模型后会做一定的优化，这个优化有可能导致置信度偏差。