量化精度损失巨大

[复制链接] · 发表于 2020-1-2 18:59:09

我训练了一个标准的darknet框架的yolov3模型，测试map为0.63

问题一：
当我使用rknn-toolkit1.2.0时

将模型转化成rknn模型，不进行量化，测试map为0.29，使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29

问题二：
当我使用rknn-toolkit1.2.1时
将模型转化成rknn模型，不进行量化，测试map为0.63，使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.46，使用500张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29，使用5000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.2，使用20000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.15

请问：
1、为什么量化图片越多，精度反而越低？
2、开启预编译会影响精度吗？
3、当模型量化成dynamic_fixed_point-8和asymmetric_quantized-u8的时候，进行inference的时候，需要对输入图片的精度进行修改吗？

只看该作者 · 发表于 2020-5-22 14:08:36

怎么没有答复呢？

只看该作者 · 发表于 2020-5-22 15:09:28

混合量化了解下

只看该作者 · 发表于 2021-7-28 16:08:45

请问怎么计算rknn的mAP值