Toybrick

标题: PC上模拟器inference输出和RK3399上inference输出不一样 [打印本页]

作者: zengwubin    时间: 2020-3-24 16:07
标题: PC上模拟器inference输出和RK3399上inference输出不一样
同样的代码和模型,在PC上转换后推理输出是正常的,但是移到RK3399上推理NPU输出就不正常 (全为1)了
作者: jefferyzhang    时间: 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。
作者: zengwubin    时间: 2020-3-24 18:27
jefferyzhang 发表于 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。 ...

试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra ... c-Face-Detector-1MB,在RK3399输出的conf全为1
作者: jefferyzhang    时间: 2020-3-25 08:20
zengwubin 发表于 2020-3-24 18:27
试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我还没说完呢,这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就是打印出所有层输出,找到开始出问题的那一层,具体在troubleshoot文档里有描述。

作者: zengwubin    时间: 2020-3-25 10:51
jefferyzhang 发表于 2020-3-25 08:20
我还没说完呢,这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就 ...

在模拟器上输出的是对的,dump出的也是没错的(开启量化和不开启都是一样的),请问怎么dump出在NPU的每层输出
作者: jefferyzhang    时间: 2020-3-25 11:00
本帖最后由 jefferyzhang 于 2020-3-25 11:02 编辑
zengwubin 发表于 2020-3-25 10:51
在模拟器上输出的是对的,dump出的也是没错的(开启量化和不开启都是一样的),请问怎么dump出在NPU的每 ...

你确认你rknn toolkit、 api、  dri和api都是1.3.0么?
不量化在NPU推理也是错的么?
板子是toybrick么?
原始模型和转换脚本一起发上来,转换和推理时候运行的完整log也发上来。

作者: zengwubin    时间: 2020-3-25 11:39
jefferyzhang 发表于 2020-3-25 11:00
你确认你rknn toolkit、 api、  dri和api都是1.3.0么?
不量化在NPU推理也是错的么?
板子是toybrick么?

回复不能上传附件,我新发帖了请看下
作者: jefferyzhang    时间: 2020-3-25 11:41
zengwubin 发表于 2020-3-25 11:39
回复不能上传附件,我新发帖了请看下

发百度网盘。。。
作者: jefferyzhang    时间: 2020-3-25 11:44
问题与该帖子重复 http://t.rock-chips.com/forum.ph ... 1406&extra=page%3D1
关闭本贴
作者: ddcat1991    时间: 2020-3-25 13:25
zengwubin 发表于 2020-3-24 18:27
试过了都是一样的,PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我也用 Ultra-Light-Fast-Generic-Face-Detector-1MB 的 onnx转的, 可是连PC的仿真结果也是错的。
作者: jefferyzhang    时间: 5 天前
本帖最后由 jefferyzhang 于 2020-3-31 14:26 编辑

该问题在rknn1.3.1已解决.
可以尝试该beta版:
rknn_toolkit v1.3.1 beta3:
链接: https://pan.baidu.com/s/1Kn2FGAdF_j3CMLNEsC3OPw 提取码: rcds


正式版过几天会发布





欢迎光临 Toybrick (http://t.rock-chips.com/) Powered by Discuz! X3.3