Toybrick

标题: 量化精度损失巨大 [打印本页]

作者: jfangah 时间: 2020-1-2 18:59
标题: 量化精度损失巨大
我训练了一个标准的darknet框架的yolov3模型，测试map为0.63

问题一：
当我使用rknn-toolkit1.2.0时

将模型转化成rknn模型，不进行量化，测试map为0.29，使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29

问题二：
当我使用rknn-toolkit1.2.1时
将模型转化成rknn模型，不进行量化，测试map为0.63，使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.46，使用500张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29，使用5000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.2，使用20000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.15

请问：
1、为什么量化图片越多，精度反而越低？
2、开启预编译会影响精度吗？
3、当模型量化成dynamic_fixed_point-8和asymmetric_quantized-u8的时候，进行inference的时候，需要对输入图片的精度进行修改吗？

作者: fjndfazp 时间: 2020-5-22 14:08
怎么没有答复呢？

作者: jefferyzhang 时间: 2020-5-22 15:09
混合量化了解下

作者: wangkelin 时间: 2021-7-28 16:08
请问怎么计算rknn的mAP值

欢迎光临 Toybrick (https://t.rock-chips.com/)