[转发] 深度学习模型量化理论+实践

版主你好，关于rknn的量化，有些问题想请教一下。我在量化模型过程中发现，量化图像越多反而量化精度损失越大。我觉得可能是因为量化取范围的时候，直接取最值，然后受到某些outlier值影响，导致精度损失大。图像数量较少的情况下，outlier值不容易出现，所以反而精度损失更小。我看了上文介绍量化取范围有几种方法，rknn目前使用的是哪种？是否是直接取最大值最小值？如果是的话，这里能否优化一下？