Toybrick

请问如何查看转换darknet模型到RKNN后每层的精度损失?

jefferyzhang

版主

积分
13003
楼主
发表于 2020-11-5 08:54:28 | 显示全部楼层
rknntoolkit文档里都有介绍,请仔细阅读文档。

rknn模型每一层都可以dump出来,先确定非量化的结果和原模型结果误差是可接受的,然后量化后dump每一层数据,
通过计算每一层输出的欧式距离,可以大致知道量化后的精度差哪一层最大,然后混合量化关闭那层的量化后一般就会提高整体模型精度
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表