用以量化的图片是直接缩放得到的吗？

[复制链接] · 发表于 2021-5-17 15:58:58

在模型转换build的时候，开启量化，使用默认的量化接口，然后量化的数据集里的那些图片，是直接通过原图片cv2.resize得到的吗，我在yolov3的例程中，我将初始图片resize成了512x512进行量化，但是在板子上模型跑的结果精度基本完全丢失，检测不到对象。但使用例程已经缩放好的608 或者 416的图片进行量化，精度还是正常的，我想问一下这个量化的图片，是怎么得到的？

只看该作者 · 发表于 2021-5-18 09:11:24

按我之前经验，rknn那边都会做缩放，精度问题是需要自己多试验的，量化也要自己尝试用多少张才能达到最优精度.
resize会因为缩放算法和你训练时不一样，与网络输入的头几层下采样计算结果产生较大偏差。

只看该作者 · 发表于 2021-5-18 11:04:13

jefferyzhang 发表于 2021-5-18 09:11
按我之前经验，rknn那边都会做缩放，精度问题是需要自己多试验的，量化也要自己尝试用多少张才能达到最优精 ...

好的，谢谢