Toybrick

3399Pro,使用rknn.build()开量化存在的问题

fallachao

注册会员

积分
53
发表于 2019-8-7 11:44:36    查看: 8548|回复: 3 | [复制链接]    打印 | 显示全部楼层
采用3399Pro训练自己的yolov3-tiny模型,使用rknn.build()函数存在一个问题:设置rknn.build(do_quantization=True, dataset='./dataset.txt')量化为True时,推理速度基本可以达到实时,但是检测精度非常低,与PC测试的结果相差非常大(同一段视频文件,PC上基本每帧都能检测到所需目标,但板子上大多数都检测不到);
设置rknn.build(do_quantization=False, dataset='./dataset.txt')量化为Fasle时,推理速度很慢,只有大约4帧,检测精度却与PC测试的结果基本一致,基本每帧都能检测到所需目标。
请问这是确实存在的问题吗?还是我哪里操作不对导致的?
由于我们现在的应用是需要实时检测,但开启量化精度太低,基本不能用,请问有什么建议,可以在开启量化时,提升精度?

回复

使用道具 举报

elooon

注册会员

积分
139
发表于 2019-8-7 17:27:43 | 显示全部楼层
试试混合量化看看?
回复

使用道具 举报

abcehac

注册会员

积分
163
发表于 2019-8-7 20:54:34 | 显示全部楼层
关注一下!还没上自己的模型。未来也怕出这样的问题。
回复

使用道具 举报

fallachao

注册会员

积分
53
 楼主| 发表于 2019-8-8 08:58:37 | 显示全部楼层
elooon 发表于 2019-8-7 17:27
试试混合量化看看?

请问混合量化怎么操作呢?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表