Toybrick

yolov3 tiny .weight转.rknn 精度下降的问题

gao

注册会员

积分
64
发表于 2019-10-29 22:39:26    查看: 1842|回复: 7 | [复制链接]    打印 | 显示全部楼层
使用demo中的transform脚步转换模型后精度出现了下降,请问:
1.这个是跟量化图片的数量有关吗?如果不是,请问是什么原因呢?
2.如果有关,大概需要大约需要多少量化图片呢?
3.量化图片需要和原始的数据集图片内容一致或相关吗?


回复

使用道具 举报

jefferyzhang

超级版主

积分
7333
发表于 2019-10-30 08:28:41 | 显示全部楼层
1. 量化图片数量越多精度越趋于稳定,无限接近于量化前精度
2. 没有大概,看网络复杂度,但是不应该小于1000这个数量级。
3. 量化图片应该尽量反映真实使用场景情况,而不是随便给,否则会在非量化过的场景中出现精度下降的情况。

量化是一门很大的学问,TF有训练量化过程,可以在训练中就完成量化,可以参看我们论坛帖子和tf官方教程。
rknn提供了一种训练完后量化的方式,这种方式很大程度依赖于你给的图片。
回复

使用道具 举报

fengbobo12

新手上路

积分
20
发表于 2019-10-30 17:04:11 | 显示全部楼层
jefferyzhang 发表于 2019-10-30 08:28
1. 量化图片数量越多精度越趋于稳定,无限接近于量化前精度
2. 没有大概,看网络复杂度,但是不应该小于100 ...

请问是和模型有关吗,darknet训练的yolov3-tiny在自己电脑上精度还可以,转换成rknn之后精度下降很多,您有什么推荐的方案给我们吗
回复

使用道具 举报

jefferyzhang

超级版主

积分
7333
发表于 2019-10-30 17:18:08 | 显示全部楼层
fengbobo12 发表于 2019-10-30 17:04
请问是和模型有关吗,darknet训练的yolov3-tiny在自己电脑上精度还可以,转换成rknn之后精度下降很多,您 ...

不量化时候精度差多少呢?
回复

使用道具 举报

fengbobo12

新手上路

积分
20
发表于 2019-10-30 18:43:34 | 显示全部楼层
jefferyzhang 发表于 2019-10-30 17:18
不量化时候精度差多少呢?

感谢回复,已经解决了,我们升级了rknn-toolkit版本为最新版本后,精度已经恢复正常了,这是因为之前的rknn-tookit有bug吗
回复

使用道具 举报

jefferyzhang

超级版主

积分
7333
发表于 2019-10-30 21:57:04 | 显示全部楼层
fengbobo12 发表于 2019-10-30 18:43
感谢回复,已经解决了,我们升级了rknn-toolkit版本为最新版本后,精度已经恢复正常了,这是因为之前的rk ...

不确定,我没有收到修复类似问题的change log
我倒是怀疑你们是因为rknntoolkit和rknn-api和驱动不匹配造成的
回复

使用道具 举报

double_s

注册会员

积分
92
发表于 2020-4-21 17:03:26 | 显示全部楼层
我这边也出现了精度下降的问题,主要体现在框不全。不进行量化时,精度也下降。使用darknet训练的yolov3-tiny测试时,框是全的,能包含全目标,但使用rknn模型(非量化)测试时,框就不全了,只能包含部分目标。
请问有什么解决办法吗?
回复

使用道具 举报

YeeLearn

注册会员

积分
146
发表于 2020-10-19 14:50:51 | 显示全部楼层
double_s 发表于 2020-4-21 17:03
我这边也出现了精度下降的问题,主要体现在框不全。不进行量化时,精度也下降。使用darknet训练的yolov3-ti ...

请问不量化存在的精度下降问题怎么解决
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表