Toybrick

标题: yolov3在pc上的输出和开发板上的输出不一样 [打印本页]

作者: q123456 时间: 2021-6-7 17:59
标题: yolov3在pc上的输出和开发板上的输出不一样
模型没有量化，是rknn-toolkit-v1.6.1，YOLOv3的pytorch模型。不知道是不是新api对算子的支持还有bug，请问下是什么问题

作者: jefferyzhang 时间: 2021-6-7 18:12
没量化默认是FP16的，PC上pytorch默认是FP32的。精度不一样

作者: q123456 时间: 2021-6-9 09:31

jefferyzhang 发表于 2021-6-7 18:12
没量化默认是FP16的，PC上pytorch默认是FP32的。精度不一样

那请问怎么解决呢。量化了模型的输出就更离谱了，比如1,6,5,4,23这种

作者: jefferyzhang 时间: 2021-6-9 09:33

q123456 发表于 2021-6-9 09:31
那请问怎么解决呢。量化了模型的输出就更离谱了，比如1,6,5,4,23这种

论坛有yolov3教程，可以看下。
论坛也有别人做的yolo系列转换帖子，多参考下。

作者: q123456 时间: 2021-6-9 10:18

jefferyzhang 发表于 2021-6-9 09:33
论坛有yolov3教程，可以看下。
论坛也有别人做的yolo系列转换帖子，多参考下。
...

没有找到类似我这个问题的，我觉得可能是两个问题导致的：1.量化图片只有100张；2.mean_values和std_values没设置

欢迎光临 Toybrick (https://t.rock-chips.com/)