Toybrick

yolov3 tiny .weight转.rknn 精度下降的问题

jefferyzhang

版主

积分
12953
楼主
发表于 2019-10-30 08:28:41 | 显示全部楼层
1. 量化图片数量越多精度越趋于稳定,无限接近于量化前精度
2. 没有大概,看网络复杂度,但是不应该小于1000这个数量级。
3. 量化图片应该尽量反映真实使用场景情况,而不是随便给,否则会在非量化过的场景中出现精度下降的情况。

量化是一门很大的学问,TF有训练量化过程,可以在训练中就完成量化,可以参看我们论坛帖子和tf官方教程。
rknn提供了一种训练完后量化的方式,这种方式很大程度依赖于你给的图片。
回复

使用道具 举报

jefferyzhang

版主

积分
12953
沙发
发表于 2019-10-30 17:18:08 | 显示全部楼层
fengbobo12 发表于 2019-10-30 17:04
请问是和模型有关吗,darknet训练的yolov3-tiny在自己电脑上精度还可以,转换成rknn之后精度下降很多,您 ...

不量化时候精度差多少呢?
回复

使用道具 举报

jefferyzhang

版主

积分
12953
板凳
发表于 2019-10-30 21:57:04 | 显示全部楼层
fengbobo12 发表于 2019-10-30 18:43
感谢回复,已经解决了,我们升级了rknn-toolkit版本为最新版本后,精度已经恢复正常了,这是因为之前的rk ...

不确定,我没有收到修复类似问题的change log
我倒是怀疑你们是因为rknntoolkit和rknn-api和驱动不匹配造成的
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表