Toybrick

关于rknn-toolkit 1.3.0 量化后仿真和实机测试结果不一致的说明

jefferyzhang

超级版主

积分
3073
发表于 2020-2-10 11:01:46    查看: 112|回复: 0 | [复制链接]    打印 | 显示全部楼层
本帖最后由 jefferyzhang 于 2020-2-10 16:47 编辑

问题描述:


某些模型,使用rknn-toolkit 1.3.0 转换后,不量化时候实机运行结果一致,量化后结果不一致,精度降低。


原因:


在1.3.0版本里,add 的操作在驱动里被优化成 conv,因为conv硬件单元执行速度比 add 快,但会降低精度。




临时解决方案:


使用串口访问NPU(或者在debian10上直接adb shell即可进入npu主控),执行以下命令禁用优化:
export VIV_VX_ENABLE_GRAPH_TRANSFORM=-tensorAdd:0
restart_rknn.sh




最终解决方案:


rknn-toolkit 1.4.0将会添加该优化可选项解决该问题。



如果以上方法均无法解决该问题,请将模型原件和转换脚本发送给我们debug!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick


快速回复 返回顶部 返回列表