Toybrick
标题:
量化过程中,参考图片越多,精度会下降的问题
[打印本页]
作者:
passion
时间:
2019-10-16 11:46
标题:
量化过程中,参考图片越多,精度会下降的问题
您好!
在dynamic_fixed_point-8/asymmetric_quantized-u8 两种量化方式下, 增加参考图片,精度反而下降,请问这种情况正常吗?
其中参考图片是测试集中筛选的,与应用场景一致。
最后选择了15张参考图片时,精度最高,200张时结果比较差。
期待您的回复!
祝好!
作者:
jefferyzhang
时间:
2019-10-16 22:04
量化图片少的时候,精度上下波动较大,15和200都是算很少的。
图片量大时候(建议K级W级)精度趋于稳定,收敛于未量化前精度。
欢迎光临 Toybrick (https://t.rock-chips.com/)
Powered by Discuz! X3.3