Toybrick

量化精度损失巨大

jfangah

中级会员

积分
214
楼主
发表于 2020-1-2 18:59:09    查看: 10827|回复: 3 | [复制链接]    打印 | 只看该作者
我训练了一个标准的darknet框架的yolov3模型,测试map为0.63

问题一:
当我使用rknn-toolkit1.2.0时

将模型转化成rknn模型,不进行量化,测试map为0.29,使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29

问题二:
当我使用rknn-toolkit1.2.1时
将模型转化成rknn模型,不进行量化,测试map为0.63,使用10张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.46,使用500张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.29,使用5000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.2,使用20000张图进行dynamic_fixed_point-8和asymmetric_quantized-u8量化的map为0.15


请问:
1、为什么量化图片越多,精度反而越低?
2、开启预编译会影响精度吗?
3、当模型量化成dynamic_fixed_point-8和asymmetric_quantized-u8的时候,进行inference的时候,需要对输入图片的精度进行修改吗?
回复

使用道具 举报

fjndfazp

注册会员

积分
122
沙发
发表于 2020-5-22 14:08:36 | 只看该作者
怎么没有答复呢?
回复

使用道具 举报

jefferyzhang

版主

积分
13578
板凳
发表于 2020-5-22 15:09:28 | 只看该作者
混合量化了解下
回复

使用道具 举报

wangkelin

注册会员

积分
114
地板
发表于 2021-7-28 16:08:45 | 只看该作者
请问怎么计算rknn的mAP值
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表