Toybrick

rk3399pro 做yolov3的视频检测出现很大差异

jefferyzhang

版主

积分
13003
楼主
发表于 2019-10-7 11:00:08 | 显示全部楼层
步子不要一下子迈那么大,一步一步转换验证。

1. 首先转换前模型,通过输入x,得出y1
2. 不量化转换rknn,通过同一个输入x,得出y2
3. 比对这两个y1和y2的精度损失是否在接受范围。
4. 量化转换rknn,通过同一个输入x,得出y3。
5. 比对y2和y3精度损失是否严重。

其中任何一个步骤如果存在输出错误(不是精度损失),那就是转换过程是有问题的,这时候需要进一步调试转换。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表