Toybrick

标题: 按照Rockchip_Quick_Start_RKNN手册跑yolov5demo精度没有教程上的高 [打印本页]

作者: Irving 时间: 2023-4-23 16:28
标题: 按照Rockchip_Quick_Start_RKNN手册跑yolov5demo精度没有教程上的高
大家好，咨询一个问题，我在rk3588开发板上跑一个官方例子，其中算法精度没有官方给出的高，只有80%出头，请问可能是哪里出问题了呢？

作者: Irving 时间: 2023-4-23 20:50
板卡端和pc端的精度是一致的的，排除板卡问题，主要是在PC端docker环境下onnx转rknn出现精度下降，demo里也是只有一张图片就达到99%的精度，而我只能实现80%左右精度。请问是怎么回事呢

作者: jefferyzhang 时间: 2023-4-24 09:16
置信度 != 精度

作者: Irving 时间: 2023-4-24 10:21

jefferyzhang 发表于 2023-4-24 09:16
置信度 != 精度

谢谢，请问这个置信度正常吗，比官方给的demo低17%左右

作者: Irving 时间: 2023-4-24 10:31

Irving 发表于 2023-4-24 10:21
谢谢，请问这个置信度正常吗，比官方给的demo低17%左右

我把量化关闭也和这个效果差不多

作者: Irving 时间: 2023-4-26 10:49

jefferyzhang 发表于 2023-4-24 09:16
置信度 != 精度

您好，能再回复一下我的疑问吗，谢谢。就是自己在docker环境下测试例程中图像，置信度远低于你们给的教程上面的。

作者: jefferyzhang 时间: 2023-4-26 11:26
本帖最后由 jefferyzhang 于 2023-4-26 11:31 编辑

我不知道你要问什么...
仿真和实机运行结果是一致的话，说明rknn和芯片以及驱动是一致的，就没问题。
你要是觉得FP16精度下降，你自己可以把模型改成FP16测下是不是一样的。

作者: Irving 时间: 2023-5-9 15:16

jefferyzhang 发表于 2023-4-26 11:26
我不知道你要问什么...
仿真和实机运行结果是一致的话，说明rknn和芯片以及驱动是一致的，就没问题。
你要 ...

使用rknn-toolkit2中文件中，onnx/yolov5/yolov5s.onnx进行模型转换，步骤和Rockchip_Quick_Start_RKNN_SDK_V1.4.0_CN.pdf中的一致，但是在模拟器中的结果置信度远低于Rockchip_Quick_Start_RKNN_SDK_V1.4.0_CN.pdf中例子里的

作者: jefferyzhang 时间: 2023-5-9 16:26

Irving 发表于 2023-5-9 15:16
使用rknn-toolkit2中文件中，onnx/yolov5/yolov5s.onnx进行模型转换，步骤和Rockchip_Quick_Start_RKNN_S ...

跟高低什么关系，例子里模型训练跟你一样吗，权重都不一样有可比性么？

我从你的问题里只看到一个事实：开关量化结果是一样的，也就是说量化和FP16精度并没有太大差别，并且你也说了仿真和板卡精度是一致的，说明NPU运行也没问题。

综上所述，模型在RK的NPU芯片上运行结果是正确的，那么你还有什么问题需要问芯片公司么？

作者: Irving 时间: 2023-5-9 16:32

jefferyzhang 发表于 2023-5-9 16:26
跟高低什么关系，例子里模型训练跟你一样吗，权重都不一样有可比性么？

我从你的问题里只看到一个事实： ...

可能你理解错我意思了，我用的是例子给我的onnx，这个就是训练好的模型吧，例子给的量化数据集，和测试图片，测试代码也是rk例子给的，那得出的结果应该是一致的，但是不一致，我也不知道那里有问题。我全程没用自己的东西，全是rk官方的。

作者: lmw0320 时间: 2023-5-9 18:39

Irving 发表于 2023-5-9 16:32
可能你理解错我意思了，我用的是例子给我的onnx，这个就是训练好的模型吧，例子给的量化数据集，和测试图 ...

这个是模型的参数精度问题，用的官方示例好像是fp16的，如果是fp32的全精度，置信度就会高。如果用了量化，可能还会更低吧。。
我也是这种情况。要加快推理速度，就只能降低参数的精度级别，比如降低到fp16（其实就是参数值四舍五入的操作），这样计算出来的结果就不一样了。如果能满足实际使用，可以忽略这个情况。--用板卡推理的话，不知道是否可以使用fp32的精度，如可以，推理速度也会受到很大影响的。

欢迎光临 Toybrick (https://t.rock-chips.com/)