Toybrick

标题: 量化过程中,参考图片越多,精度会下降的问题 [打印本页]

作者: passion    时间: 2019-10-16 11:46
标题: 量化过程中,参考图片越多,精度会下降的问题
您好!

在dynamic_fixed_point-8/asymmetric_quantized-u8 两种量化方式下, 增加参考图片,精度反而下降,请问这种情况正常吗?
其中参考图片是测试集中筛选的,与应用场景一致。


最后选择了15张参考图片时,精度最高,200张时结果比较差。


期待您的回复!
祝好!

作者: jefferyzhang    时间: 2019-10-16 22:04
量化图片少的时候,精度上下波动较大,15和200都是算很少的。
图片量大时候(建议K级W级)精度趋于稳定,收敛于未量化前精度。




欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3