PC上模拟器inference输出和RK3399上inference输出不一样

同样的代码和模型，在PC上转换后推理输出是正常的，但是移到RK3399上推理NPU输出就不正常 （全为1）了

1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。

jefferyzhang 发表于 2020-3-24 16:17
1. 确认rknn/api/driver版本是否一致
2. 量化与不量化测试结果是否一致
3. 连续运行几次结果是否一致。 ...

试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra ... c-Face-Detector-1MB，在RK3399输出的conf全为1

zengwubin 发表于 2020-3-24 18:27
试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我还没说完呢，这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就是打印出所有层输出，找到开始出问题的那一层，具体在troubleshoot文档里有描述。

jefferyzhang 发表于 2020-3-25 08:20
我还没说完呢，这种问题得帮忙NPU部门定位到具体层后处理会比较快。不然提上去就遥遥无期了。

接下去就 ...

在模拟器上输出的是对的，dump出的也是没错的（开启量化和不开启都是一样的），请问怎么dump出在NPU的每层输出

zengwubin 发表于 2020-3-25 10:51
在模拟器上输出的是对的，dump出的也是没错的（开启量化和不开启都是一样的），请问怎么dump出在NPU的每 ...

你确认你rknn toolkit、 api、  dri和api都是1.3.0么？
不量化在NPU推理也是错的么？
板子是toybrick么？
原始模型和转换脚本一起发上来，转换和推理时候运行的完整log也发上来。

jefferyzhang 发表于 2020-3-25 11:00
你确认你rknn toolkit、 api、  dri和api都是1.3.0么？
不量化在NPU推理也是错的么？
板子是toybrick么？

回复不能上传附件，我新发帖了请看下

zengwubin 发表于 2020-3-25 11:39
回复不能上传附件，我新发帖了请看下

发百度网盘。。。

问题与该帖子重复 http://t.rock-chips.com/forum.ph ... 1406&extra=page%3D1
关闭本贴

zengwubin 发表于 2020-3-24 18:27
试过了都是一样的，PC上模拟器就能正常输出。转换模型https://github.com/Linzaer/Ultra-Light-Fast-Gene ...

我也用 Ultra-Light-Fast-Generic-Face-Detector-1MB 的 onnx转的， 可是连PC的仿真结果也是错的。