Toybrick

量化精度损失巨大

jfangah

中级会员

积分
214
楼主
发表于 2020-1-2 18:59:09    查看: 8581|回复: 3 | [复制链接]    打印 | 显示全部楼层
我训练了一个标准的darknet框架的yolov3模型,测试map为0.63

问题一:
当我使用rknn-toolkit1.2.0时

将模型转化成rknn模型,不进行量化,测试map为0.29,使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29

问题二:
当我使用rknn-toolkit1.2.1时
将模型转化成rknn模型,不进行量化,测试map为0.63,使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.46,使用500张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29,使用5000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.2,使用20000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.15


请问:
1、为什么量化图片越多,精度反而越低?
2、开启预编译会影响精度吗?
3、当模型量化成dynamic_fixed_point-8和asymmetric_quantized-u8的时候,进行inference的时候,需要对输入图片的精度进行修改吗?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表