Toybrick

RK3576,pt模型切换rknn模型,精度丢失有点大

大胆壹点

新手上路

积分
14
楼主
发表于 2025-7-19 17:34:30    查看: 1871|回复: 1 | [复制链接]    打印 | 只看该作者
采用的pt转fp非量化方案,yolo11模型,由于YOLO本身不支持QAT,转换后的模型目前精度丢失有点严重。之前还试过量化的int8方案,精度丢失更大。
比较明显的是,在GPU上直接检测,不管是精度还是鲁棒性都比在rknn上高很多,有没有什么好建议

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

jefferyzhang

版主

积分
15199
沙发
发表于 2025-7-23 08:48:58 | 只看该作者
官方modelzone就有yolo11,如果自己懒得做优化调试,就直接用官方转好的模型:https://github.com/airockchip/rknn_model_zoo

如果自己要调试,你的问题颗粒度就不对,
首先你要核对每一层的输出精度,找到精度损失最大的层,尝试修改量化类型,例如改为不量化,或者其他量化类型,来纠正每一层的量化精度.
如果要和训练一致的精度,那就要更为专业的使用QAT量化感知训练来做.
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表