按照Rockchip_Quick_Start_RKNN手册跑yolov5demo精度没有教程上的高

只看该作者 · 发表于 2023-5-9 18:39:53

Irving 发表于 2023-5-9 16:32
可能你理解错我意思了，我用的是例子给我的onnx，这个就是训练好的模型吧，例子给的量化数据集，和测试图 ...

这个是模型的参数精度问题，用的官方示例好像是fp16的，如果是fp32的全精度，置信度就会高。如果用了量化，可能还会更低吧。。
我也是这种情况。要加快推理速度，就只能降低参数的精度级别，比如降低到fp16（其实就是参数值四舍五入的操作），这样计算出来的结果就不一样了。如果能满足实际使用，可以忽略这个情况。--用板卡推理的话，不知道是否可以使用fp32的精度，如可以，推理速度也会受到很大影响的。