Toybrick

标题: yolov3 tiny .weight转.rknn 精度下降的问题 [打印本页]

作者: gao 时间: 2019-10-29 22:39
标题: yolov3 tiny .weight转.rknn 精度下降的问题
使用demo中的transform脚步转换模型后精度出现了下降，请问：
1.这个是跟量化图片的数量有关吗？如果不是，请问是什么原因呢？
2.如果有关，大概需要大约需要多少量化图片呢？
3.量化图片需要和原始的数据集图片内容一致或相关吗？

作者: jefferyzhang 时间: 2019-10-30 08:28
1. 量化图片数量越多精度越趋于稳定，无限接近于量化前精度
2. 没有大概，看网络复杂度，但是不应该小于1000这个数量级。
3. 量化图片应该尽量反映真实使用场景情况，而不是随便给，否则会在非量化过的场景中出现精度下降的情况。

量化是一门很大的学问，TF有训练量化过程，可以在训练中就完成量化，可以参看我们论坛帖子和tf官方教程。
rknn提供了一种训练完后量化的方式，这种方式很大程度依赖于你给的图片。

作者: fengbobo12 时间: 2019-10-30 17:04

jefferyzhang 发表于 2019-10-30 08:28
1. 量化图片数量越多精度越趋于稳定，无限接近于量化前精度
2. 没有大概，看网络复杂度，但是不应该小于100 ...

请问是和模型有关吗，darknet训练的yolov3-tiny在自己电脑上精度还可以，转换成rknn之后精度下降很多，您有什么推荐的方案给我们吗

作者: jefferyzhang 时间: 2019-10-30 17:18

fengbobo12 发表于 2019-10-30 17:04
请问是和模型有关吗，darknet训练的yolov3-tiny在自己电脑上精度还可以，转换成rknn之后精度下降很多，您 ...

不量化时候精度差多少呢？

作者: fengbobo12 时间: 2019-10-30 18:43

jefferyzhang 发表于 2019-10-30 17:18
不量化时候精度差多少呢？

感谢回复，已经解决了，我们升级了rknn-toolkit版本为最新版本后，精度已经恢复正常了，这是因为之前的rknn-tookit有bug吗

作者: jefferyzhang 时间: 2019-10-30 21:57

fengbobo12 发表于 2019-10-30 18:43
感谢回复，已经解决了，我们升级了rknn-toolkit版本为最新版本后，精度已经恢复正常了，这是因为之前的rk ...

不确定，我没有收到修复类似问题的change log
我倒是怀疑你们是因为rknntoolkit和rknn-api和驱动不匹配造成的

作者: double_s 时间: 2020-4-21 17:03
我这边也出现了精度下降的问题，主要体现在框不全。不进行量化时，精度也下降。使用darknet训练的yolov3-tiny测试时，框是全的，能包含全目标，但使用rknn模型（非量化）测试时，框就不全了，只能包含部分目标。
请问有什么解决办法吗？

作者: YeeLearn 时间: 2020-10-19 14:50

double_s 发表于 2020-4-21 17:03
我这边也出现了精度下降的问题，主要体现在框不全。不进行量化时，精度也下降。使用darknet训练的yolov3-ti ...

请问不量化存在的精度下降问题怎么解决

作者: libetas 时间: 2021-3-5 18:25
你们能正常运行的模型用的是哪份代码训练的？能给个github链接吗？

欢迎光临 Toybrick (https://t.rock-chips.com/)