Toybrick

标题: 关于rknn-toolkit 1.3.0 量化后仿真和实机测试结果不一致的说明 [打印本页]

作者: jefferyzhang 时间: 2020-2-10 11:01
标题: 关于rknn-toolkit 1.3.0 量化后仿真和实机测试结果不一致的说明
本帖最后由 jefferyzhang 于 2020-2-10 16:47 编辑

问题描述：

某些模型，使用rknn-toolkit 1.3.0 转换后，不量化时候实机运行结果一致，量化后结果不一致，精度降低。

原因：

在1.3.0版本里，add 的操作在驱动里被优化成 conv，因为conv硬件单元执行速度比 add 快，但会降低精度。

临时解决方案：

使用串口访问NPU（或者在debian10上直接adb shell即可进入npu主控），执行以下命令禁用优化：
export VIV_VX_ENABLE_GRAPH_TRANSFORM=-tensorAdd:0
restart_rknn.sh

最终解决方案：

rknn-toolkit 1.4.0将会添加该优化可选项解决该问题。

如果以上方法均无法解决该问题，请将模型原件和转换脚本发送给我们debug！

欢迎光临 Toybrick (https://t.rock-chips.com/)