Toybrick

标题: PC上模拟器inference输出和RK3399上inference输出不一样 [打印本页]

作者: zengwubin 时间: 2020-3-24 16:07
标题: PC上模拟器inference输出和RK3399上inference输出不一样
同样的代码和模型，在PC上转换后推理输出是正常的，但是移到RK3399上推理NPU输出就不正常（全为1）了

作者: jefferyzhang 时间: 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。

作者: zengwubin 时间: 2020-3-24 18:27

jefferyzhang 发表于 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。 ...

试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra ... c-Face-Detector-1MB，在RK3399输出的conf全为1

作者: jefferyzhang 时间: 2020-3-25 08:20

zengwubin 发表于 2020-3-24 18:27
试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我还没说完呢，这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就是打印出所有层输出，找到开始出问题的那一层，具体在troubleshoot文档里有描述。

作者: zengwubin 时间: 2020-3-25 10:51

jefferyzhang 发表于 2020-3-25 08:20
我还没说完呢，这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就 ...

在模拟器上输出的是对的，dump出的也是没错的（开启量化和不开启都是一样的），请问怎么dump出在NPU的每层输出

作者: jefferyzhang 时间: 2020-3-25 11:00
本帖最后由 jefferyzhang 于 2020-3-25 11:02 编辑

zengwubin 发表于 2020-3-25 10:51
在模拟器上输出的是对的，dump出的也是没错的（开启量化和不开启都是一样的），请问怎么dump出在NPU的每 ...

你确认你rknn toolkit、 api、 dri和api都是1.3.0么？
不量化在NPU推理也是错的么？
板子是toybrick么？
原始模型和转换脚本一起发上来，转换和推理时候运行的完整log也发上来。

作者: zengwubin 时间: 2020-3-25 11:39

jefferyzhang 发表于 2020-3-25 11:00
你确认你rknn toolkit、 api、 dri和api都是1.3.0么？
不量化在NPU推理也是错的么？
板子是toybrick么？

回复不能上传附件，我新发帖了请看下

作者: jefferyzhang 时间: 2020-3-25 11:41

zengwubin 发表于 2020-3-25 11:39
回复不能上传附件，我新发帖了请看下

发百度网盘。。。

作者: jefferyzhang 时间: 2020-3-25 11:44
问题与该帖子重复 http://t.rock-chips.com/forum.ph ... 1406&extra=page%3D1
关闭本贴

作者: ddcat1991 时间: 2020-3-25 13:25

zengwubin 发表于 2020-3-24 18:27
试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我也用 Ultra-Light-Fast-Generic-Face-Detector-1MB 的 onnx转的，可是连PC的仿真结果也是错的。

作者: jefferyzhang 时间: 2020-3-31 14:24
本帖最后由 jefferyzhang 于 2020-3-31 14:26 编辑

该问题在rknn1.3.1已解决.
可以尝试该beta版：
rknn_toolkit v1.3.1 beta3：
链接: https://pan.baidu.com/s/1Kn2FGAdF_j3CMLNEsC3OPw 提取码: rcds

正式版过几天会发布

欢迎光临 Toybrick (https://t.rock-chips.com/)