Toybrick

标题: RK3576，pt模型切换rknn模型，精度丢失有点大 [打印本页]

作者: 大胆壹点 时间: 2025-7-19 17:34
标题: RK3576，pt模型切换rknn模型，精度丢失有点大
采用的pt转fp非量化方案，yolo11模型，由于YOLO本身不支持QAT，转换后的模型目前精度丢失有点严重。之前还试过量化的int8方案，精度丢失更大。
比较明显的是，在GPU上直接检测，不管是精度还是鲁棒性都比在rknn上高很多，有没有什么好建议

作者: jefferyzhang 时间: 2025-7-23 08:48
官方modelzone就有yolo11,如果自己懒得做优化调试,就直接用官方转好的模型:https://github.com/airockchip/rknn_model_zoo

如果自己要调试,你的问题颗粒度就不对,
首先你要核对每一层的输出精度,找到精度损失最大的层,尝试修改量化类型,例如改为不量化,或者其他量化类型,来纠正每一层的量化精度.
如果要和训练一致的精度,那就要更为专业的使用QAT量化感知训练来做.

欢迎光临 Toybrick (https://t.rock-chips.com/)