yolov3在pc上的输出和开发板上的输出不一样

[复制链接] · 发表于 2021-6-7 17:59:43

模型没有量化，是rknn-toolkit-v1.6.1，YOLOv3的pytorch模型。不知道是不是新api对算子的支持还有bug，请问下是什么问题

只看该作者 · 发表于 2021-6-7 18:12:48

没量化默认是FP16的，PC上pytorch默认是FP32的。精度不一样

只看该作者 · 发表于 2021-6-9 09:31:07

jefferyzhang 发表于 2021-6-7 18:12
没量化默认是FP16的，PC上pytorch默认是FP32的。精度不一样

那请问怎么解决呢。量化了模型的输出就更离谱了，比如1,6,5,4,23这种

只看该作者 · 发表于 2021-6-9 09:33:37

q123456 发表于 2021-6-9 09:31
那请问怎么解决呢。量化了模型的输出就更离谱了，比如1,6,5,4,23这种

论坛有yolov3教程，可以看下。
论坛也有别人做的yolo系列转换帖子，多参考下。

只看该作者 · 发表于 2021-6-9 10:18:01

jefferyzhang 发表于 2021-6-9 09:33
论坛有yolov3教程，可以看下。
论坛也有别人做的yolo系列转换帖子，多参考下。
...

没有找到类似我这个问题的，我觉得可能是两个问题导致的：1.量化图片只有100张；2.mean_values和std_values没设置